1
00:00:02,000 --> 00:00:07,000
Descărcat de pe
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Site-ul oficial de filme YIFY:
YTS.MX

3
00:00:48,222 --> 00:00:51,703
Dacă construim artificial
inteligență generală,

4
00:00:51,747 --> 00:00:53,531
acesta va fi cel mai mare eveniment

5
00:00:53,575 --> 00:00:56,708
în istorie
a vieții pe Pământ.

6
00:00:56,752 --> 00:01:00,147
Inteligență extraterestră în interiorul unui sistem informatic care

7
00:01:00,190 --> 00:01:03,280
are control asupra planetei,
in ziua in care soseste...

8
00:01:03,324 --> 00:01:05,108
Și science fiction
cărți și filme

9
00:01:05,152 --> 00:01:07,197
l-ați configurat în prealabil.

10
00:01:25,781 --> 00:01:27,696
Care este problema?

11
00:01:27,739 --> 00:01:29,698
Cred că știi
care este problema

12
00:01:29,741 --> 00:01:31,134
la fel de bine ca mine.

13
00:01:31,178 --> 00:01:32,701
ce esti tu
vorbesc despre, HAL?

14
00:01:34,094 --> 00:01:35,617
Această misiune
este prea important

15
00:01:35,660 --> 00:01:37,793
ca să-ți permit
pentru a-l pune în pericol.

16
00:01:39,360 --> 00:01:42,363
Nu știu ce ești
vorbesc despre, HAL.

17
00:01:42,406 --> 00:01:45,975
HAL, un super-inteligent
calculator.

18
00:01:46,018 --> 00:01:48,325
Am numi asta astăzi AI.

19
00:01:49,544 --> 00:01:52,242
Personajul meu, Dave,
era astronautul

20
00:01:52,286 --> 00:01:55,027
într-una dintre cele mai profetice
filme făcute vreodată

21
00:01:55,071 --> 00:01:57,378
despre amenințare
pusă umanității

22
00:01:57,421 --> 00:01:59,423
prin inteligența artificială.

23
00:02:01,121 --> 00:02:03,166
HAL a fost science fiction.

24
00:02:03,210 --> 00:02:06,996
Dar acum, AI este peste tot în jurul nostru.

25
00:02:07,039 --> 00:02:09,172
Inteligența artificială
nu este viitorul.

26
00:02:09,216 --> 00:02:11,087
AI este deja aici.

27
00:02:11,131 --> 00:02:12,915
Săptămâna aceasta un robot
a candidat pentru funcția de primar

28
00:02:12,958 --> 00:02:14,177
într-un mic
oraș japonez.

29
00:02:14,221 --> 00:02:15,352
Casa Albă spune

30
00:02:15,396 --> 00:02:17,137
se creează
un nou grup operativ

31
00:02:17,180 --> 00:02:19,182
să se concentreze
pe inteligența artificială.

32
00:02:19,226 --> 00:02:21,271
Google a făcut-o deja
planuri anunțate

33
00:02:21,315 --> 00:02:23,360
pentru a investi mai mult în cercetarea AI.

34
00:02:23,404 --> 00:02:28,713
IBM trimite un robot cu inteligență artificială în spațiu.

35
00:02:28,757 --> 00:02:31,673
Din cauza rolului meu mic
în conversație,

36
00:02:31,716 --> 00:02:34,154
înțeleg
că suntem într-o călătorie,

37
00:02:34,197 --> 00:02:37,244
unul care începe
cu AI îngustă.

38
00:02:37,287 --> 00:02:39,942
Mașini care funcționează
sarcini specifice

39
00:02:39,985 --> 00:02:41,378
mai bine decât putem noi.

40
00:02:42,336 --> 00:02:44,381
Dar AI-ul science fiction-ului

41
00:02:44,425 --> 00:02:47,471
este general artificial
inteligenta,

42
00:02:47,515 --> 00:02:50,213
mașini care pot
face totul

43
00:02:50,257 --> 00:02:51,693
mai bun decât noi.

44
00:02:52,694 --> 00:02:54,478
AI îngustă este într-adevăr

45
00:02:54,522 --> 00:02:57,220
ca un savant idiot
la extrem,

46
00:02:57,264 --> 00:02:58,830
unde poate face ceva,

47
00:02:58,874 --> 00:03:00,963
cum ar fi înmulțirea numerelor
foarte repede,

48
00:03:01,006 --> 00:03:02,617
mult mai bun decât orice om.

49
00:03:02,660 --> 00:03:06,011
Dar nu se poate
orice altceva.

50
00:03:06,055 --> 00:03:09,928
Dar AGI, artificial
inteligență generală,

51
00:03:09,972 --> 00:03:12,453
care încă nu există,
este in schimb

52
00:03:12,496 --> 00:03:14,629
inteligenţă
care poate face totul

53
00:03:14,672 --> 00:03:15,934
la fel ca oamenii pot.

54
00:03:21,244 --> 00:03:24,247
Deci ce se întâmplă
dacă creăm AGI?

55
00:03:25,248 --> 00:03:27,294
Autorii de science fiction
ne-au avertizat

56
00:03:27,337 --> 00:03:28,773
ar putea fi periculos.

57
00:03:29,513 --> 00:03:31,385
Și nu sunt singurii.

58
00:03:32,864 --> 00:03:35,911
Cred că oamenii ar trebui să fie îngrijorați de asta.

59
00:03:35,954 --> 00:03:37,565
AI este un risc fundamental

60
00:03:37,608 --> 00:03:39,349
la existenta
a civilizaţiei umane.

61
00:03:39,393 --> 00:03:42,178
Și nu cred că oamenii
apreciez pe deplin asta.

62
00:03:42,222 --> 00:03:43,919
Cred că trebuie
îngrijorează-te.

63
00:03:43,962 --> 00:03:45,225
Nu cred că este inerent

64
00:03:45,268 --> 00:03:48,010
pe măsură ce creăm
super inteligenta

65
00:03:48,053 --> 00:03:49,533
că va fi
neapărat întotdeauna

66
00:03:49,577 --> 00:03:51,927
să aibă aceleași obiective în minte
că facem.

67
00:03:51,970 --> 00:03:53,233
Cred că dezvoltarea

68
00:03:53,276 --> 00:03:55,713
de plin
inteligența artificială

69
00:03:55,757 --> 00:03:58,368
ar putea semna sfârșitul
a rasei umane.

70
00:03:58,412 --> 00:04:00,457
... sfârşitul rasei umane.

71
00:04:01,893 --> 00:04:05,201
Mâine, dacă titlul spune
o inteligență artificială

72
00:04:05,245 --> 00:04:08,248
a fost fabricat
asta e la fel de inteligent

73
00:04:08,291 --> 00:04:10,293
sau mai inteligent
decât ființele umane,

74
00:04:10,337 --> 00:04:12,077
oamenii s-ar certa despre asta,
dar nu cred

75
00:04:12,121 --> 00:04:13,992
ar fi surprinsi,
pentru că science fiction

76
00:04:14,036 --> 00:04:15,907
ne-a ajutat să ne imaginăm tot felul

77
00:04:15,951 --> 00:04:17,431
a lucrurilor inimaginabile.

78
00:04:20,999 --> 00:04:23,393
Experții sunt împărțiți
despre impact

79
00:04:23,437 --> 00:04:25,613
AI va avea asupra viitorului nostru,

80
00:04:25,656 --> 00:04:29,747
și dacă Hollywood-ul sau nu
ne ajută să ne planificăm.

81
00:04:29,791 --> 00:04:32,750
Dialogul nostru
a fost cu adevărat deturnat
de la Hollywood

82
00:04:32,794 --> 00:04:35,927
pentru că The Terminator
face un blockbuster mai bun

83
00:04:35,971 --> 00:04:38,147
decât AI fiind bun,

84
00:04:38,190 --> 00:04:39,409
sau AI fiind neutru,

85
00:04:39,453 --> 00:04:41,063
sau AI fiind confuz.

86
00:04:41,106 --> 00:04:42,456
Tehnologia aici în AI

87
00:04:42,499 --> 00:04:44,501
nu este diferit.
Este un instrument.

88
00:04:44,545 --> 00:04:47,156
Îmi place să mă gândesc la asta
ca un creion fantezist.

89
00:04:47,199 --> 00:04:49,593
Și deci ce poze
desenăm cu el,

90
00:04:49,637 --> 00:04:52,248
asta depinde de noi ca societate.

91
00:04:52,292 --> 00:04:55,251
Nu trebuie să facem
ce ne spune AI.

92
00:04:55,295 --> 00:04:56,861
Îi spunem AI ce să facă.

93
00:04:58,646 --> 00:05:00,300
cred eu
filme de la Hollywood

94
00:05:00,343 --> 00:05:02,214
ajuta la conversatie.

95
00:05:02,258 --> 00:05:03,781
Cineva trebuie să se gândească

96
00:05:03,825 --> 00:05:07,089
înainte de ce
consecintele sunt.

97
00:05:07,132 --> 00:05:08,786
Dar la fel cum noi nu putem
imagineaza-ti cu adevarat

98
00:05:08,830 --> 00:05:11,311
care este știința reală
a viitorului
va fi ca,

99
00:05:11,354 --> 00:05:13,400
Nu cred că am început

100
00:05:13,443 --> 00:05:16,316
să mă gândesc cu adevărat
toate viitoarele posibile,

101
00:05:16,359 --> 00:05:19,188
care izvorăsc logic
a acestei tehnologii.

102
00:05:19,231 --> 00:05:23,497
Inteligența artificială are
puterea de a schimba societatea.

103
00:05:23,540 --> 00:05:25,499
Un cor în creștere
de critică

104
00:05:25,542 --> 00:05:27,283
evidențiază pericolele

105
00:05:27,327 --> 00:05:29,416
de control al predarii
la mașini.

106
00:05:29,459 --> 00:05:31,331
Va fi
urmeaza multe schimbari.

107
00:05:31,374 --> 00:05:32,897
Preocuparea mai mare pe termen lung

108
00:05:32,941 --> 00:05:35,639
este că omenirea va fi
oarecum dat deoparte.

109
00:05:35,683 --> 00:05:37,598
Acesta este ceva
Stanley Kubrick și alții

110
00:05:37,641 --> 00:05:39,469
erau îngrijorați
Acum 50 de ani, nu?

111
00:05:41,993 --> 00:05:43,647
Se întâmplă.

112
00:05:43,691 --> 00:05:47,608
Cum evaluăm urgența
din această conversație?

113
00:05:49,436 --> 00:05:51,742
Dacă oamenii ar vedea pe radar chiar acum

114
00:05:51,786 --> 00:05:54,179
că o navă extraterestră
se apropia de Pământ

115
00:05:54,223 --> 00:05:56,181
și au fost 25 de ani distanță,

116
00:05:56,225 --> 00:05:57,835
am fi mobilizati
să se pregătească

117
00:05:57,879 --> 00:06:00,621
pentru sosirea acelui extraterestru
25 de ani de acum încolo.

118
00:06:00,664 --> 00:06:03,058
Dar exact asta
situatia in care ne aflam

119
00:06:03,101 --> 00:06:04,799
cu inteligență artificială.

120
00:06:04,842 --> 00:06:06,670
Ar putea fi 25 de ani, ar putea fi 50 de ani,

121
00:06:06,714 --> 00:06:09,456
dar va sosi o inteligență extraterestră

122
00:06:09,499 --> 00:06:11,109
și ar trebui să fim pregătiți.

123
00:06:14,286 --> 00:06:16,637
Ei bine, domnilor, faceți cunoștință cu Tobor.

124
00:06:16,680 --> 00:06:19,379
Un simulacru electronic
a unui om.

125
00:06:19,422 --> 00:06:21,772
Doamne. Oh, vai Willikers.

126
00:06:21,816 --> 00:06:24,645
Chiar dacă mai rămâne multă muncă
înainte de a fi terminat,

127
00:06:24,688 --> 00:06:26,211
el este deja
o ființă sensibilă.

128
00:06:28,388 --> 00:06:30,390
În 1956 când termenul

129
00:06:30,433 --> 00:06:32,696
inteligența artificială
a apărut prima dată,

130
00:06:32,740 --> 00:06:35,395
obiectivele originale
a inteligenței artificiale

131
00:06:35,438 --> 00:06:37,701
au fost inteligența la nivel uman.

132
00:06:37,745 --> 00:06:41,052
Arată aproape amabil,
nu-i asa?

133
00:06:41,096 --> 00:06:43,838
De-a lungul timpului, asta s-a dovedit a fi cu adevărat dificil.

134
00:06:46,449 --> 00:06:49,626
Cred că, în cele din urmă,
vom avea la nivel uman

135
00:06:49,670 --> 00:06:51,889
inteligența de la mașini.

136
00:06:51,933 --> 00:06:55,153
Dar poate fi
câteva sute de ani.
Va dura ceva timp.

137
00:06:55,197 --> 00:06:57,634
Și așa primesc oamenii
un pic supraemotionat

138
00:06:57,678 --> 00:06:59,854
despre capabilitățile viitoare.

139
00:06:59,897 --> 00:07:03,945
Și acum, Elektro,
Îți poruncesc să te întorci.

140
00:07:04,293 --> 00:07:05,425
Spate.

141
00:07:08,297 --> 00:07:09,559
Aproape fiecare generație,

142
00:07:09,603 --> 00:07:11,169
oamenii au primit
atât de entuziast.

143
00:07:11,213 --> 00:07:12,736
Ei urmăresc 2001,

144
00:07:12,780 --> 00:07:14,564
se îndrăgostesc de HAL,
ei cred,

145
00:07:14,608 --> 00:07:16,871
„Da, dă-mi șase săptămâni.
O să rezolv asta.”

146
00:07:17,785 --> 00:07:19,830
Nu se întâmplă și toată lumea se supără.

147
00:07:21,179 --> 00:07:24,052
Deci ce s-a schimbat
în cercetarea AI?

148
00:07:26,489 --> 00:07:28,839
Diferența cu IA pe care o avem astăzi

149
00:07:28,883 --> 00:07:32,495
și motivul pentru care AI a făcut brusc acest mare salt înainte

150
00:07:32,539 --> 00:07:34,758
este Internetul.
Asta este lumea lor.

151
00:07:34,802 --> 00:07:37,587
In seara asta informatia
autostrada,

152
00:07:37,631 --> 00:07:39,415
și unul dintre principalele sale
arterele,

153
00:07:39,459 --> 00:07:42,505
o rețea online
numit Internet.

154
00:07:42,549 --> 00:07:45,421
În 1981,
doar 213 computere

155
00:07:45,465 --> 00:07:46,901
au fost conectați la internet.

156
00:07:46,944 --> 00:07:48,816
Pe măsură ce noul an începe,
o estimare

157
00:07:48,859 --> 00:07:50,600
două milioane și jumătate
calculatoare

158
00:07:50,644 --> 00:07:51,993
va fi în rețea.

159
00:07:53,516 --> 00:07:55,126
AI trebuie să mănânce.

160
00:07:55,170 --> 00:07:57,346
Așa cum oile au nevoie de iarbă,

161
00:07:57,389 --> 00:07:59,087
AI au nevoie de date.

162
00:07:59,130 --> 00:08:02,525
Și marile prerii de date
sunt pe internet.

163
00:08:03,134 --> 00:08:04,484
Asta este.

164
00:08:05,136 --> 00:08:06,181
Ei au spus: „Știi ce?

165
00:08:06,224 --> 00:08:07,661
„Hai să-i lăsăm să se desprindă acolo”.

166
00:08:09,532 --> 00:08:11,839
Și deodată,
AI-urile au prins viață.

167
00:08:11,882 --> 00:08:14,276
Imaginați-vă
mii de roboți vorbitori

168
00:08:14,319 --> 00:08:15,973
capabil să se deplaseze ca o singură unitate,

169
00:08:16,017 --> 00:08:17,322
asumarea crimei, incendiilor,

170
00:08:17,366 --> 00:08:18,976
și dezastre naturale.

171
00:08:19,020 --> 00:08:21,805
Inteligența artificială
platforma Amper

172
00:08:21,849 --> 00:08:24,416
a creat primul album
compus în întregime

173
00:08:24,460 --> 00:08:26,157
si produs
prin inteligența artificială.

174
00:08:26,201 --> 00:08:29,552
Săptămâna viitoare, Christie's va fi
prima casa de licitatii

175
00:08:29,596 --> 00:08:33,251
pentru a oferi opere de artă create
prin inteligența artificială.

176
00:08:34,165 --> 00:08:35,819
Mașini fără șofer, se spune că sunt

177
00:08:35,863 --> 00:08:38,648
în viitorul nostru nu atât de îndepărtat.

178
00:08:38,692 --> 00:08:40,955
Deci chiar dacă
nu avem AGI

179
00:08:40,998 --> 00:08:44,262
sau la nivel uman
inteligență încă,

180
00:08:44,306 --> 00:08:45,699
suntem gata să acordăm autonomie

181
00:08:45,742 --> 00:08:48,440
la mașinile pe care le avem?

182
00:08:48,484 --> 00:08:51,574
Ar trebui să se conducă singur mașinile
luați decizii etice?

183
00:08:51,618 --> 00:08:53,881
Aceasta este dezbaterea din ce în ce mai mare
ca tehnologia

184
00:08:53,924 --> 00:08:56,318
se apropie mai mult de
realitatea mainstream.

185
00:08:58,233 --> 00:08:59,843
Această idee
de dacă sau nu

186
00:08:59,887 --> 00:09:02,846
putem încorpora etica
în mașini,

187
00:09:02,890 --> 00:09:04,544
indiferent dacă sunt sau nu
mașini automatizate

188
00:09:04,587 --> 00:09:06,415
sau mașini autonome,

189
00:09:06,458 --> 00:09:08,286
Nu sunt sigur
ne-am dat seama.

190
00:09:08,330 --> 00:09:09,723
Dacă ai
o mașină care se conduce singur,

191
00:09:09,766 --> 00:09:11,202
va trebui să facă
decizii etice.

192
00:09:11,246 --> 00:09:14,641
Oamenii au fost unul clasic
a te gandi mult la asta este...

193
00:09:14,684 --> 00:09:16,556
Nu știu dacă ai auzit
de probleme cu căruciorul.

194
00:09:16,599 --> 00:09:18,122
Problema căruciorului.Problema căruciorului.

195
00:09:18,166 --> 00:09:20,211
Problema căruciorului.Problema căruciorului.

196
00:09:21,604 --> 00:09:22,823
În problema căruciorului,

197
00:09:22,866 --> 00:09:24,172
fie sau nu
o mașină fără șofer

198
00:09:24,215 --> 00:09:26,870
va salva șoferul
sau alergat peste

199
00:09:26,914 --> 00:09:29,046
un grup de şcolari
traversând drumul.

200
00:09:29,090 --> 00:09:31,614
Va masina
du-te la dreapta și lovește-o pe bătrână

201
00:09:31,658 --> 00:09:35,575
sau va merge la stânga și va ucide
cei patru tineri?

202
00:09:35,618 --> 00:09:39,143
Ori ucide cinci oameni
stând într-o stație de autobuz

203
00:09:39,187 --> 00:09:40,405
sau sinucide-te.

204
00:09:40,449 --> 00:09:41,972
Este o decizie etică

205
00:09:42,016 --> 00:09:43,931
care trebuie făcută
pe moment,

206
00:09:43,974 --> 00:09:46,020
prea repede pentru orice om
pentru a intra acolo.

207
00:09:46,063 --> 00:09:48,544
Deci este software-ul
în mașina ta cu conducere autonomă

208
00:09:48,588 --> 00:09:50,546
asta va face
acea decizie etică.

209
00:09:50,590 --> 00:09:51,852
Cine decide asta?

210
00:09:52,679 --> 00:09:53,897
Societate inteligentă,

211
00:09:53,941 --> 00:09:55,899
societatea care
prețuiește viața umană,

212
00:09:55,943 --> 00:09:58,336
ar trebui să ia o decizie care

213
00:09:58,380 --> 00:10:02,427
uciderea unei persoane
este de preferat
la uciderea a cinci persoane.

214
00:10:02,471 --> 00:10:06,344
Desigur,
ridică întrebarea
cine o să cumpere mașina aia.

215
00:10:06,388 --> 00:10:09,130
Sau, știi, vei face
cumpără mașina de unde de fapt,

216
00:10:09,173 --> 00:10:11,654
va devia
si vei fi bine,

217
00:10:11,698 --> 00:10:13,134
dar sunt dispăruți.

218
00:10:14,918 --> 00:10:17,442
Sunt sute
de astfel de întrebări

219
00:10:17,486 --> 00:10:19,140
toată societatea.

220
00:10:19,183 --> 00:10:22,883
Și așa, filozofii etici
lupta înainte și înapoi.

221
00:10:25,146 --> 00:10:27,583
Supărarea mea cu
filozofii este

222
00:10:27,627 --> 00:10:30,804
ei suge oxigenul
afară din cameră.

223
00:10:30,847 --> 00:10:33,763
Există această metaforă
care am de

224
00:10:33,807 --> 00:10:37,114
ai o mașină
plecând de la o nuntă,

225
00:10:37,158 --> 00:10:41,205
și mașina conduce,
iar în spatele ei sunt conserve.

226
00:10:41,249 --> 00:10:45,645
Și cutiile metalice sunt
zgomotând și făcând zgomot.

227
00:10:45,688 --> 00:10:47,690
Mașina aceea este știință

228
00:10:47,734 --> 00:10:50,345
și tehnologie
mergând înainte cu hotărâre.

229
00:10:50,388 --> 00:10:51,955
Și cutiile de metal zgomot

230
00:10:51,999 --> 00:10:54,697
sunt filozofii
făcând mult zgomot.

231
00:10:54,741 --> 00:10:56,525
Lumea se schimbă
într-un asemenea mod

232
00:10:56,568 --> 00:11:01,138
că întrebarea despre noi
constructii de masini

233
00:11:01,182 --> 00:11:04,098
care ar putea deveni
mai inteligenți decât suntem

234
00:11:04,141 --> 00:11:07,710
este mai mult o realitate decât o ficțiune în acest moment.

235
00:11:10,147 --> 00:11:12,759
Nu-i aşa
trebuie să pun întrebări acum,

236
00:11:12,802 --> 00:11:15,805
înaintea mașinilor
devii mai inteligent decât noi?

237
00:11:15,849 --> 00:11:18,373
Adică, dacă ei
dobândiți conștiința?

238
00:11:19,635 --> 00:11:21,463
Cât de departe este asta?

239
00:11:25,075 --> 00:11:26,816
Cât de aproape suntem
la o mașină conștientă?

240
00:11:26,860 --> 00:11:28,688
Aceasta este întrebarea
care aduce

241
00:11:28,731 --> 00:11:32,082
filozofi și oameni de știință
la lovituri, cred.

242
00:11:32,126 --> 00:11:34,302
Ești în centrul mort

243
00:11:34,345 --> 00:11:37,871
dintre cei mai mari
eveniment științific
în istoria omului.

244
00:11:37,914 --> 00:11:39,699
Dacă ai creat
o mașină conștientă,

245
00:11:39,742 --> 00:11:41,309
nu este istoria omului.

246
00:11:42,614 --> 00:11:44,834
Asta e istoria zeilor.

247
00:11:44,878 --> 00:11:48,533
Problema cu conștiința
aproape nimeni

248
00:11:48,577 --> 00:11:50,884
poate defini exact ce este.

249
00:11:53,408 --> 00:11:55,976
Este conștiință
asta ne face speciali?

250
00:11:57,586 --> 00:11:58,718
Uman?

251
00:12:00,894 --> 00:12:03,026
Un mod de a gândi
despre conștiință

252
00:12:03,070 --> 00:12:05,159
pe care o mulțime de oameni
va fi de acord cu...

253
00:12:05,202 --> 00:12:07,857
Nu vei găsi niciodată ceva care să atragă pe toată lumea.

254
00:12:07,901 --> 00:12:10,468
... nu este doar
lumini intermitente,
dar cineva e acasă.

255
00:12:11,252 --> 00:12:13,036
Deci, dacă ai un...

256
00:12:13,080 --> 00:12:15,386
Daca ai cumparat
unul dintre acei mici

257
00:12:15,430 --> 00:12:16,953
mașini simple de joc de șah,

258
00:12:17,606 --> 00:12:19,173
s-ar putea să te bată la șah.

259
00:12:19,216 --> 00:12:21,218
Există
multe lumini clipind.

260
00:12:21,262 --> 00:12:23,743
Dar nu e nimeni înăuntru
cand va castiga,

261
00:12:23,786 --> 00:12:25,222
mergând „Am câștigat”.

262
00:12:25,962 --> 00:12:29,749
În regulă?
În timp ce câinele tău

263
00:12:29,792 --> 00:12:32,534
este un jucător de șah prost,

264
00:12:32,577 --> 00:12:33,927
dar te uiți la câine
si tu crezi,

265
00:12:33,970 --> 00:12:36,930
„De fapt, cineva este înăuntru.
Nu este doar un mecanism.”

266
00:12:38,845 --> 00:12:42,283
Oamenii se întreabă dacă inteligența generală

267
00:12:42,326 --> 00:12:44,459
necesită conștiință.

268
00:12:46,766 --> 00:12:50,160
Ar putea depinde parțial de ce
nivelul de inteligență generală
despre care vorbesti.

269
00:12:50,204 --> 00:12:53,250
Un șoarece are un fel
de inteligenţă generală.

270
00:12:53,294 --> 00:12:55,339
Presupun că, dacă ai
o mașină care are

271
00:12:55,383 --> 00:12:58,473
inteligența generală
la nivelul,
să zicem, un șoarece sau mai departe,

272
00:12:58,516 --> 00:13:00,997
va fi un candidat bun pentru a avea conștiință.

273
00:13:04,653 --> 00:13:05,697
Nu suntem încă acolo.

274
00:13:05,741 --> 00:13:07,787
Nu ne confruntăm cu roboți umanoizi

275
00:13:07,830 --> 00:13:09,832
care sunt mai deștepți decât noi.

276
00:13:09,876 --> 00:13:12,182
Suntem în asta
poziție etică curioasă

277
00:13:12,226 --> 00:13:15,446
de a nu ști unde și cum
conștiința apare,

278
00:13:15,490 --> 00:13:18,841
și construim
tot mai complicat
minti.

279
00:13:18,885 --> 00:13:20,800
Nu vom ști dacă
sau nu sunt conștienți,

280
00:13:20,843 --> 00:13:22,062
dar am putea simți că sunt.

281
00:13:24,194 --> 00:13:26,718
Cel mai simplu exemplu
este daca ai programat

282
00:13:26,762 --> 00:13:29,634
într-un computer tot ce știai despre bucurie,

283
00:13:29,678 --> 00:13:31,201
fiecare referință în literatură,

284
00:13:31,245 --> 00:13:33,943
fiecare definiție,
fiecare compus chimic

285
00:13:33,987 --> 00:13:36,119
asta e implicat cu bucurie
în creierul uman,

286
00:13:36,163 --> 00:13:39,644
și ai pus toate astea
informații într-un computer,

287
00:13:39,688 --> 00:13:42,778
ai putea sa te certe
că a înțeles bucuria.

288
00:13:42,822 --> 00:13:45,476
Întrebarea este,
simțise vreodată bucurie?

289
00:13:51,613 --> 00:13:53,354
HAL a avut emoții?

290
00:13:55,095 --> 00:13:58,228
Se vor simți vreodată AI
cum facem noi?

291
00:13:59,882 --> 00:14:02,406
Este foarte greu de obținut
mașini pentru a face lucrurile

292
00:14:02,450 --> 00:14:06,149
la care nu ne gândim,
de care nu suntem conștienți.

293
00:14:06,193 --> 00:14:09,326
Lucruri precum detectarea
că acea persoană de acolo

294
00:14:09,370 --> 00:14:11,198
este cu adevărat nefericit
cu felul in care...

295
00:14:11,241 --> 00:14:12,721
Ceva despre
ce fac.

296
00:14:12,764 --> 00:14:14,027
Și ei trimit
un semnal subtil

297
00:14:14,070 --> 00:14:15,506
si probabil eu
ar trebui să schimb ceea ce fac.

298
00:14:17,334 --> 00:14:18,988
Nu știm să construim
mașini care pot fi de fapt

299
00:14:19,032 --> 00:14:22,252
adaptat la astfel de tipuri
de mici semne sociale.

300
00:14:24,994 --> 00:14:28,389
Există această noțiune că poate
este ceva magic

301
00:14:28,432 --> 00:14:30,434
despre creier,

302
00:14:30,478 --> 00:14:32,045
despre articolele umede
de a avea

303
00:14:32,088 --> 00:14:33,785
o informatie
sistem de procesare

304
00:14:33,829 --> 00:14:34,917
din carne, nu?

305
00:14:34,961 --> 00:14:37,311
Și asta orice am face
în mașinile noastre,

306
00:14:37,354 --> 00:14:40,705
oricum competent
încep să pară,

307
00:14:40,749 --> 00:14:42,272
ei niciodată cu adevărat
va fi inteligent

308
00:14:42,316 --> 00:14:44,579
în felul în care experimentăm
noi înșine să fim.

309
00:14:46,233 --> 00:14:48,975
Chiar nu există nicio bază pentru asta.

310
00:14:51,238 --> 00:14:53,240
Această idee stupidă
nu poți fi inteligent

311
00:14:53,283 --> 00:14:55,155
dacă nu ești făcut din carne.

312
00:14:56,765 --> 00:14:58,201
Din perspectiva mea,
ca fizician,

313
00:14:58,245 --> 00:15:00,682
este doar șovinism carbon.

314
00:15:00,725 --> 00:15:02,118
Acele mașini
sunt făcute exact din

315
00:15:02,162 --> 00:15:03,903
acelasi fel de
particule elementare

316
00:15:03,946 --> 00:15:05,382
din care este făcut creierul meu.

317
00:15:06,775 --> 00:15:08,429
Inteligența este justă
un anumit...

318
00:15:08,472 --> 00:15:10,170
Și conștiința este justă

319
00:15:10,213 --> 00:15:12,259
un anumit tip de prelucrare a informaţiei.

320
00:15:15,262 --> 00:15:17,655
Poate că nu suntem
atât de special până la urmă.

321
00:15:19,744 --> 00:15:21,268
Ar putea creierul nostru pe bază de carbon

322
00:15:21,311 --> 00:15:23,531
fi replicat cu siliciu?

323
00:15:25,185 --> 00:15:28,405
Încercăm să construim
un copil generat de calculator

324
00:15:28,449 --> 00:15:31,060
pe care le putem preda
ca un copil adevărat,

325
00:15:31,104 --> 00:15:34,237
cu potenţial de inteligenţă generală.

326
00:15:39,808 --> 00:15:42,550
Pentru a face asta, chiar tu
trebuie să construiască
creierul unui computer.

327
00:15:46,162 --> 00:15:50,645
Am vrut să construiesc un model simplu de creier de jucărie

328
00:15:52,168 --> 00:15:53,474
într-un sistem încorporat

329
00:15:53,517 --> 00:15:56,694
cu care ai putea interactiona
faţă în faţă.

330
00:16:00,394 --> 00:16:03,527
Și se întâmplă să am un copil acasă,

331
00:16:03,571 --> 00:16:04,964
un copil adevărat.

332
00:16:05,660 --> 00:16:07,836
Și am scanat copilul

333
00:16:07,879 --> 00:16:10,795
ca să pot construi un model 3D din ea

334
00:16:10,839 --> 00:16:12,493
și apoi folosește-i fața

335
00:16:12,536 --> 00:16:15,452
ca practic forma de realizare
a sistemului.

336
00:16:17,063 --> 00:16:20,109
Dacă un creier este format din celule,

337
00:16:20,153 --> 00:16:23,199
și are sângele pompat, este capabil să gândească,

338
00:16:24,461 --> 00:16:27,682
doar s-ar putea să fie posibil
pe care un computer poate gândi

339
00:16:28,770 --> 00:16:33,166
dacă informația se mișcă în același tip de proces.

340
00:16:37,474 --> 00:16:39,476
Multe
inteligența artificială
în momentul de astăzi

341
00:16:39,520 --> 00:16:42,044
este cu adevărat despre
recunoaștere avansată a modelelor.

342
00:16:42,088 --> 00:16:44,003
Nu este vorba despre roboți ucigași

343
00:16:44,046 --> 00:16:45,830
care vor prelua
lumea, etc.

344
00:16:47,702 --> 00:16:51,053
Deci acesta este Baby X.
Ea rulează în direct
pe computerul meu.

345
00:16:51,097 --> 00:16:54,056
Deci, în timp ce îmi mișc mâna,
face un zgomot puternic,

346
00:16:54,100 --> 00:16:55,710
se va speria.

347
00:16:55,753 --> 00:16:57,407
Putem cam mări.

348
00:16:57,451 --> 00:17:00,845
Deci practic mă poate vedea
și ascultă-mă, știi.

349
00:17:00,889 --> 00:17:03,022
Hei, dragă.

350
00:17:03,065 --> 00:17:05,067
Ea nu îmi copie zâmbetul,

351
00:17:05,111 --> 00:17:07,417
ea răspunde la zâmbetul meu.

352
00:17:08,114 --> 00:17:09,637
Deci ea îmi răspunde

353
00:17:09,680 --> 00:17:12,205
și suntem cu adevărat îngrijorați
cu întrebarea

354
00:17:12,248 --> 00:17:14,207
de cum vom face
interacționează efectiv

355
00:17:14,250 --> 00:17:16,644
cu inteligență artificială
în viitor.

356
00:17:17,688 --> 00:17:19,995
Ah...

357
00:17:20,039 --> 00:17:23,520
Când vorbesc cu Baby X,
Sunt în mod deliberat
modulându-mi vocea

358
00:17:23,564 --> 00:17:25,740
și făcând în mod deliberat expresii faciale mari.

359
00:17:25,783 --> 00:17:27,350
Eu spun "Ooh,"
toate chestiile astea

360
00:17:27,394 --> 00:17:29,309
pentru că primesc
atentia ei.

361
00:17:29,744 --> 00:17:31,572
Ooh.

362
00:17:32,834 --> 00:17:34,749
Și acum că am atras atenția ei,

363
00:17:35,793 --> 00:17:37,012
Pot să învăț ceva.

364
00:17:37,056 --> 00:17:38,579
Bine, deci iată Baby X,

365
00:17:38,622 --> 00:17:41,973
și aceasta este... Ea a fost
invata sa citesti cuvinte.

366
00:17:42,017 --> 00:17:43,758
Deci iată
prima ei carte de cuvinte.

367
00:17:43,801 --> 00:17:47,370
Deci, să vedem ce
ea poate vedea.
Întoarce-te la o pagină...

368
00:17:47,414 --> 00:17:49,329
Și iată-ne.
Sa vedem ce ea...

369
00:17:49,372 --> 00:17:51,679
Ce-i asta, iubito?
Ce-i asta? Ce-i asta?

370
00:17:52,245 --> 00:17:54,160
Ce-i asta? Oaie.

371
00:17:54,203 --> 00:17:56,336
fată bună.
Acum vezi dacă știe
care este cuvântul.

372
00:17:56,379 --> 00:17:58,207
Bine.
Iubito, uită-te aici.

373
00:17:58,251 --> 00:18:00,079
Pleacă.
Ce-i asta? Ce-i asta?

374
00:18:01,776 --> 00:18:03,952
Oaia.Fata buna.

375
00:18:03,995 --> 00:18:05,606
Hai să o încercăm
pe altceva.

376
00:18:05,649 --> 00:18:07,216
Bine.

377
00:18:07,260 --> 00:18:08,826
Să încercăm asta.
Ce-i asta?

378
00:18:08,870 --> 00:18:10,437
Iubito, iubito, aici.
Ce-i asta?

379
00:18:15,268 --> 00:18:17,618
Copil. Uită-te la mine.
Uită-te la mine. Ce-i asta?

380
00:18:17,661 --> 00:18:19,402
Iubito, aici.
Aici.

381
00:18:20,708 --> 00:18:22,927
Cățeluș.Fata bună.

382
00:18:22,971 --> 00:18:24,233
Asta este
ea tocmai a citit.

383
00:18:24,277 --> 00:18:26,148
Ooh.

384
00:18:26,192 --> 00:18:28,411
Cel mai inteligent sistem

385
00:18:28,455 --> 00:18:30,805
de care suntem conștienți
este un om.

386
00:18:32,198 --> 00:18:35,114
Deci folosind uman
ca șablon,

387
00:18:35,157 --> 00:18:37,333
ca întruchipare a Baby X,

388
00:18:37,377 --> 00:18:39,509
este probabil cea mai bună cale
să încerce

389
00:18:39,553 --> 00:18:41,337
a realiza
inteligența generală.

390
00:18:48,170 --> 00:18:49,650
Ea pare atât de umană.

391
00:18:51,304 --> 00:18:53,349
Acesta este copilul
care ne ia de mână

392
00:18:53,393 --> 00:18:55,699
și ne conduce la HAL?

393
00:18:57,484 --> 00:19:00,922
Fie că este într-o lume reală
sau o lume virtuală,

394
00:19:00,965 --> 00:19:02,358
Cred că întruchipare

395
00:19:02,402 --> 00:19:05,492
va fi
foarte crucial aici.

396
00:19:05,535 --> 00:19:07,885
Pentru că eu cred că
inteligența generală

397
00:19:07,929 --> 00:19:10,888
este legat de a fi capabil
a actiona in lume.

398
00:19:13,108 --> 00:19:14,805
Trebuie să ai ceva,

399
00:19:14,849 --> 00:19:16,633
brate, picioare, ochi,

400
00:19:16,677 --> 00:19:18,461
ceva ce poți
mișcă în jur

401
00:19:18,505 --> 00:19:21,682
pentru a recolta
informații noi.

402
00:19:26,513 --> 00:19:28,906
Așa că mă gândesc să obțin sisteme
care inteleg cu adevarat

403
00:19:28,950 --> 00:19:30,647
despre ce vorbesc,

404
00:19:30,691 --> 00:19:32,997
veți avea nevoie de sisteme
care poate acţiona

405
00:19:33,041 --> 00:19:34,564
și intervin în lume,

406
00:19:34,608 --> 00:19:36,827
și eventual sisteme
care au ceva

407
00:19:36,871 --> 00:19:39,308
aproape ca o viață socială.

408
00:19:39,352 --> 00:19:43,007
Pentru mine, gândirea și simțirea
vor veni împreună.

409
00:19:43,051 --> 00:19:44,574
Și vor veni împreună

410
00:19:44,618 --> 00:19:47,534
din cauza importanței
de realizare.

411
00:19:52,539 --> 00:19:53,975
Poveștile care
ne spunem

412
00:19:54,018 --> 00:19:56,325
deschide arene
pentru discutie,

413
00:19:56,369 --> 00:19:58,109
si ne ajuta si pe noi
gandeste-te la lucruri.

414
00:19:58,153 --> 00:19:59,415
Ava!

415
00:20:02,592 --> 00:20:04,377
Cea mai dominantă poveste...

416
00:20:04,420 --> 00:20:05,769
Du-te înapoi în camera ta.

417
00:20:05,813 --> 00:20:07,684
... este AI înfricoșător.

418
00:20:07,728 --> 00:20:09,991
Există un tip rău,
este un tip bun...

419
00:20:12,123 --> 00:20:14,822
Adică
o poveste neproductivă.

420
00:20:14,865 --> 00:20:15,866
Stop!

421
00:20:16,954 --> 00:20:18,608
Ava, am zis stop!

422
00:20:20,784 --> 00:20:22,656
Vai! Vai! Vai!

423
00:20:22,699 --> 00:20:27,269
Realitatea este AI
remarcabil de folositor pentru noi.

424
00:20:27,313 --> 00:20:30,838
Chirurgii robot sunt din ce în ce mai folosiți în spitalele NHS.

425
00:20:30,881 --> 00:20:33,623
Ei nu obosesc,
mâinile nu le tremură,

426
00:20:33,667 --> 00:20:36,060
si pacientii lor
face o recuperare mai rapidă.

427
00:20:36,104 --> 00:20:38,672
M-a alertat că
era un animal în călduri.

428
00:20:38,715 --> 00:20:41,065
Era gata să fie crescută,
şi trei animale care

429
00:20:41,109 --> 00:20:42,806
poate avea
o potenţială problemă de sănătate.

430
00:20:42,850 --> 00:20:45,548
Un program pe Facebook
poate detecta comportamentul suicidar

431
00:20:45,592 --> 00:20:47,681
prin analiza informațiilor utilizatorului,

432
00:20:47,724 --> 00:20:50,074
și CEO Facebook
Mark Zuckerberg crede

433
00:20:50,118 --> 00:20:52,425
acesta este doar începutul.

434
00:20:52,468 --> 00:20:55,036
Aici este cineva
care are deficiențe de vedere

435
00:20:55,079 --> 00:20:57,386
putând vedea
din cauza AI.

436
00:20:57,430 --> 00:21:00,128
Acestea sunt beneficiile
a ceea ce face AI.

437
00:21:00,171 --> 00:21:01,738
Diagnosticați cancerul mai devreme.

438
00:21:01,782 --> 00:21:03,174
Prezice boli de inima.

439
00:21:03,218 --> 00:21:05,481
Dar revoluția
abia a inceput.

440
00:21:06,917 --> 00:21:08,397
AI este.

441
00:21:08,441 --> 00:21:10,617
Se întâmplă.
Și deci este o întrebare

442
00:21:10,660 --> 00:21:13,533
a ceea ce facem cu el,
cum o construim.

443
00:21:13,576 --> 00:21:15,665
Asta e singura întrebare
asta conteaza. Și cred că,

444
00:21:15,709 --> 00:21:19,060
suntem potențial în pericol
de a ruina asta

445
00:21:19,103 --> 00:21:20,453
având aceasta
reacție de genunchi

446
00:21:20,496 --> 00:21:22,672
că AI este proastă
și vine să ne prindă.

447
00:21:25,196 --> 00:21:27,155
Deci, la fel ca astronautul meu,

448
00:21:27,198 --> 00:21:28,461
suntem intr-o calatorie.

449
00:21:29,200 --> 00:21:31,638
AI îngustă este deja aici.

450
00:21:32,421 --> 00:21:35,294
Dar cât de departe suntem de AGI?

451
00:21:36,425 --> 00:21:39,210
Și cât de repede mergem?

452
00:21:39,254 --> 00:21:40,603
La fiecare cinci ani,

453
00:21:40,647 --> 00:21:43,214
computerele primesc
de zece ori mai repede.

454
00:21:43,258 --> 00:21:45,216
Momentan,
încă nu avem

455
00:21:45,260 --> 00:21:48,263
dispozitive mici,
dispozitive de calcul,

456
00:21:48,307 --> 00:21:51,484
care poate calcula
la fel de mult ca un creier uman.

457
00:21:51,527 --> 00:21:52,702
Dar la fiecare cinci ani,

458
00:21:52,746 --> 00:21:55,575
computerele primesc
de zece ori mai ieftin,

459
00:21:55,618 --> 00:21:57,925
ceea ce înseamnă că în curând
o să avem asta.

460
00:21:57,968 --> 00:22:01,189
Și odată ce avem asta,
apoi 50 de ani mai târziu,

461
00:22:01,232 --> 00:22:02,451
dacă tendința nu se rupe,

462
00:22:02,495 --> 00:22:04,801
ar trebui să avem
pentru acelasi pret

463
00:22:04,845 --> 00:22:07,630
mici dispozitive de calcul
care poate calcula

464
00:22:07,674 --> 00:22:10,329
atât cât
toate cele zece miliarde de creiere

465
00:22:10,372 --> 00:22:11,808
a omenirii împreună.

466
00:22:14,202 --> 00:22:15,551
Se ajunge din urmă.

467
00:22:16,770 --> 00:22:20,034
Ce se întâmplă
daca trece pe langa noi?

468
00:22:20,077 --> 00:22:23,342
Acum un robot
care a fost dezvoltat
de un om de știință japonez

469
00:22:23,385 --> 00:22:25,387
este atât de rapid încât poate câștiga

470
00:22:25,431 --> 00:22:27,346
jocul piatră-hârtie-foarfece
împotriva unui om

471
00:22:27,389 --> 00:22:29,130
de fiecare dată.

472
00:22:29,173 --> 00:22:31,175
Prezumția trebuie să fie asta

473
00:22:31,219 --> 00:22:33,177
când un artificial
inteligenţă

474
00:22:33,221 --> 00:22:35,266
ajunge la inteligența umană,

475
00:22:35,310 --> 00:22:38,008
va fi foarte repede
depășește inteligența umană,

476
00:22:38,052 --> 00:22:39,227
și odată ce se întâmplă asta,

477
00:22:39,270 --> 00:22:41,272
nici măcar nu
mai are nevoie de noi

478
00:22:41,316 --> 00:22:43,884
pentru a-l face mai inteligent.
Se poate deveni mai inteligent.

479
00:22:46,408 --> 00:22:49,455
Tu creezi AI
care sunt mai buni decât noi

480
00:22:49,498 --> 00:22:50,586
la o mulțime de lucruri.

481
00:22:50,630 --> 00:22:52,545
Și unul dintre lucruri
ei devin mai buni la

482
00:22:52,588 --> 00:22:54,373
este programarea calculatoarelor.

483
00:22:54,416 --> 00:22:56,113
Deci se reprogramează singur.

484
00:22:56,157 --> 00:22:57,898
Și este acum
mai bine decât a fost,

485
00:22:57,941 --> 00:23:01,380
ceea ce înseamnă că este acum
mai bine decât era
la reprogramare.

486
00:23:02,729 --> 00:23:05,384
Deci nu
sa te faci mai bine asa.

487
00:23:06,123 --> 00:23:07,690
Devine mai bine așa.

488
00:23:09,562 --> 00:23:11,172
Și rămânem în urmă

489
00:23:11,215 --> 00:23:13,304
pe măsură ce continuă să devină mai repede,

490
00:23:13,348 --> 00:23:15,872
evoluând la
o rată exponenţială.

491
00:23:15,916 --> 00:23:18,005
Acesta este evenimentul
că o mulțime de cercetători

492
00:23:18,048 --> 00:23:19,746
denumită singularitate.

493
00:23:21,965 --> 00:23:23,706
Și va depăși

494
00:23:23,750 --> 00:23:26,405
unde suntem competitivi
foarte repede.

495
00:23:26,448 --> 00:23:29,625
Așa că gândește-te la cineva
neavând un doctorat într-un domeniu,

496
00:23:29,669 --> 00:23:32,280
dar având-o
în fiecare domeniu imaginabil.

497
00:23:32,323 --> 00:23:34,413
Nu poți să-ți dai seama
ce fac ei.

498
00:23:34,456 --> 00:23:36,806
Ei pot face lucruri
nimeni altcineva nu este capabil.

499
00:23:39,461 --> 00:23:40,854
Doar imaginați-vă
cum ar fi

500
00:23:40,897 --> 00:23:43,247
a fi în dialog
cu o altă persoană

501
00:23:43,291 --> 00:23:44,814
alergând pe un curs de timp

502
00:23:44,858 --> 00:23:48,557
asta a fost de un milion de ori
mai repede decât al tău.

503
00:23:48,601 --> 00:23:51,255
Deci pentru fiecare secundă
trebuia sa te gandesti

504
00:23:51,299 --> 00:23:52,431
despre ceea ce ai fost
urmeaza sa faca

505
00:23:52,474 --> 00:23:53,867
sau ce ai fost
o sa spun,

506
00:23:53,910 --> 00:23:57,436
avea două săptămâni să se gândească
despre asta, nu?

507
00:23:57,479 --> 00:24:00,569
Um, sau de un miliard de ori mai repede,

508
00:24:00,613 --> 00:24:02,528
deci dacă pentru fiecare secundă
trebuia sa te gandesti,

509
00:24:02,571 --> 00:24:05,487
este poker cu mize mari
sau vreo negociere,

510
00:24:05,531 --> 00:24:09,448
în fiecare secundă în care te gândești,
are 32 de ani

511
00:24:09,491 --> 00:24:11,798
să mă gândesc la ce
următoarea sa mutare va fi.

512
00:24:12,581 --> 00:24:14,931
Nu există nicio modalitate de a câștiga în acel joc.

513
00:24:15,715 --> 00:24:17,456
Singularitatea,

514
00:24:17,499 --> 00:24:19,719
momentul în care aparatele
ne depășesc.

515
00:24:20,415 --> 00:24:22,548
Inevitabil? Nu toată lumea

516
00:24:22,591 --> 00:24:25,289
în fruntea AI
asa crede.

517
00:24:25,333 --> 00:24:27,857
Unii dintre prietenii mei
care sunt îngrijorați
despre viitor

518
00:24:27,901 --> 00:24:30,033
cred că vom face
ajunge la o singularitate

519
00:24:30,077 --> 00:24:31,687
unde sistemele AI
sunt capabili

520
00:24:31,731 --> 00:24:33,602
pentru a se reprograma
și se fac singuri

521
00:24:33,646 --> 00:24:35,517
din ce în ce mai bine
si mai bine.

522
00:24:36,910 --> 00:24:39,652
Poate în
viitorul indepartat.

523
00:24:39,695 --> 00:24:42,045
Dar sistemele noastre actuale AI

524
00:24:42,089 --> 00:24:44,831
sunt foarte, foarte înguste
la ceea ce fac ei.

525
00:24:45,745 --> 00:24:47,573
Nu putem construi un sistem astăzi

526
00:24:47,616 --> 00:24:49,488
care poate înțelege
un program de calculator

527
00:24:49,531 --> 00:24:52,316
la nivel
că un student nou-nouț
în programare

528
00:24:52,360 --> 00:24:54,754
intelege
în patru sau cinci săptămâni.

529
00:24:55,581 --> 00:24:56,756
Și apropo,

530
00:24:56,799 --> 00:24:59,019
oamenii au lucrat
asupra acestei probleme

531
00:24:59,062 --> 00:25:00,499
de peste 40 de ani.

532
00:25:00,542 --> 00:25:02,065
Nu pentru că
oamenii nu au încercat.

533
00:25:02,109 --> 00:25:03,980
Este pentru că nu avem
orice indiciu cum să o faci.

534
00:25:04,024 --> 00:25:06,766
Deci, să ne imaginăm că e dintr-o dată
va sari din nimic

535
00:25:06,809 --> 00:25:09,986
Cred că este complet greșit.

536
00:25:11,640 --> 00:25:14,600
Există un negativ
narațiune despre AI.

537
00:25:14,643 --> 00:25:16,602
Oameni geniali
ca Elon Musk

538
00:25:16,645 --> 00:25:19,648
folosiți imagini foarte religioase.

539
00:25:19,692 --> 00:25:22,999
Cu inteligență artificială,
invocăm demonul.

540
00:25:23,043 --> 00:25:24,958
Ştii? Ştii
toate acele poveşti unde

541
00:25:25,001 --> 00:25:27,090
acolo este tipul cu
pentagrama și apa sfințită

542
00:25:27,134 --> 00:25:29,005
și el spune: „Da,”
este sigur că poate controla
demonul.

543
00:25:30,137 --> 00:25:31,312
Nu merge.

544
00:25:32,313 --> 00:25:33,488
Știi, oameni ca mine

545
00:25:33,532 --> 00:25:35,795
care au cheltuit
întreaga lor carieră

546
00:25:35,838 --> 00:25:39,538
lucrul la AI sunt literalmente
rănit de asta, nu?

547
00:25:39,581 --> 00:25:42,105
Este aproape un atac personal.

548
00:25:43,933 --> 00:25:46,196
tind sa gandesc
despre ce se va întâmpla

549
00:25:46,240 --> 00:25:49,243
în următorii zece ani,
în următorii 25 de ani.

550
00:25:49,286 --> 00:25:50,549
Dincolo de 25,

551
00:25:50,592 --> 00:25:52,681
este atât de greu de prezis

552
00:25:52,725 --> 00:25:55,379
că devine
foarte mult o speculație.

553
00:25:55,423 --> 00:25:56,816
Dar trebuie să te avertizez,

554
00:25:56,859 --> 00:25:59,383
am fost
anume programat

555
00:25:59,427 --> 00:26:02,125
să nu cucerească lumea.

556
00:26:02,169 --> 00:26:04,650
Deodată,
pentru prima dată

557
00:26:04,693 --> 00:26:07,478
în istoria domeniului,
ai unii oameni care spun,

558
00:26:07,522 --> 00:26:09,350
„Oh, motivul
nu trebuie să ne facem griji

559
00:26:09,393 --> 00:26:10,743
„despre orice fel de

560
00:26:10,786 --> 00:26:12,614
„risc existențial
la umanitate

561
00:26:12,658 --> 00:26:13,746
„de la super-inteligentă
masini

562
00:26:13,789 --> 00:26:15,225
„Este pentru că este imposibil.

563
00:26:16,096 --> 00:26:17,532
„Vom eșua”.

564
00:26:17,576 --> 00:26:21,275
Eu... găsesc asta
complet bizar.

565
00:26:21,318 --> 00:26:26,280
Stuart Russell
a co-scris manualul
mulți studenți AI învață cu.

566
00:26:26,323 --> 00:26:30,893
El înțelege impulsul
conducând viitorul nostru AI.

567
00:26:30,937 --> 00:26:33,766
Dar având în vedere rata
de investiții în IA,

568
00:26:33,809 --> 00:26:35,811
numărul
de oameni incredibil de deștepți

569
00:26:35,855 --> 00:26:37,596
care lucrează
asupra acestor probleme,

570
00:26:37,639 --> 00:26:39,728
și stimulentul enorm,

571
00:26:39,772 --> 00:26:42,339
uh, pentru a obține general
inteligență scop,

572
00:26:42,383 --> 00:26:43,819
spatele plicului
calcul,

573
00:26:43,863 --> 00:26:47,388
valoarea este de aproximativ
10.000 de trilioane de dolari.

574
00:26:47,431 --> 00:26:50,652
Pentru că ar revoluționa economia lumii.

575
00:26:51,697 --> 00:26:53,612
Cu acea scară de stimulente,

576
00:26:53,655 --> 00:26:56,266
Cred că pariază împotriva ingeniozității umane

577
00:26:56,310 --> 00:26:58,660
pare doar incredibil de prost.

578
00:26:58,704 --> 00:27:01,054
China are
un mare interes personal

579
00:27:01,097 --> 00:27:04,187
în a fi recunoscut
ca, un fel de superputere AI.

580
00:27:04,231 --> 00:27:06,625
Și ei investesc
ceea ce cred eu este

581
00:27:06,668 --> 00:27:08,931
peste 150 de miliarde de dolari

582
00:27:08,975 --> 00:27:10,498
următorii cinci-zece ani.

583
00:27:10,541 --> 00:27:11,891
Au fost
câteva știri

584
00:27:11,934 --> 00:27:13,632
că guvernul
va începe să crească

585
00:27:13,675 --> 00:27:15,024
investiția sa în IA.

586
00:27:15,068 --> 00:27:17,723
Fiecare companie
în Fortune 500,

587
00:27:17,766 --> 00:27:20,029
fie că este vorba de IBM, Microsoft,

588
00:27:20,073 --> 00:27:22,771
sau sunt afară
ca Kroger,

589
00:27:22,815 --> 00:27:24,599
folosește
inteligența artificială

590
00:27:24,643 --> 00:27:25,861
pentru a câștiga clienți.

591
00:27:25,905 --> 00:27:28,647
Nu cred că oamenii
ar trebui să subestimeze

592
00:27:28,690 --> 00:27:30,605
tipurile de inovații
merge mai departe.

593
00:27:30,649 --> 00:27:32,694
Și ce lumea asta
va arăta ca

594
00:27:32,738 --> 00:27:34,261
peste trei-cinci ani
de acum,

595
00:27:34,304 --> 00:27:36,480
Cred că oamenii vor avea
e greu de prezis.

596
00:27:36,524 --> 00:27:38,787
Cunosc multe persoane
care lucrează

597
00:27:38,831 --> 00:27:40,571
în AI
și ți-ar spune,

598
00:27:40,615 --> 00:27:42,791
„Uite, mă duc la muncă
si am indoieli.

599
00:27:42,835 --> 00:27:45,489
„Lucrez la
creând această mașină

600
00:27:45,533 --> 00:27:47,100
„care poate trata cancerul,

601
00:27:47,883 --> 00:27:49,450
„Ne prelungim speranța de viață,

602
00:27:49,493 --> 00:27:52,801
„facem societățile noastre mai bune,
mai drept, mai egal.

603
00:27:54,020 --> 00:27:57,197
„Dar s-ar putea și
să fie sfârșitul umanității”.

604
00:28:00,156 --> 00:28:02,376
Sfârșitul umanității?

605
00:28:07,033 --> 00:28:08,991
Care este planul nostru
ca specie?

606
00:28:11,472 --> 00:28:12,778
Nu avem unul.

607
00:28:14,170 --> 00:28:15,737
Nu avem un plan
si nu ne dam seama

608
00:28:15,781 --> 00:28:17,217
este necesar
a avea un plan.

609
00:28:26,879 --> 00:28:28,707
Multe
cercetătorii AI

610
00:28:28,750 --> 00:28:30,143
mi-ar plăcea pentru noi
cărți de science fiction

611
00:28:30,186 --> 00:28:32,362
și filme
pentru a fi mai echilibrat,

612
00:28:33,494 --> 00:28:36,149
pentru a arăta bunele utilizări ale AI.

613
00:28:42,677 --> 00:28:45,724
Toate lucrurile rele
avem tendința de a face,

614
00:28:45,767 --> 00:28:46,899
tu le joci

615
00:28:46,942 --> 00:28:50,380
la nivelul apocaliptic
în science fiction

616
00:28:50,424 --> 00:28:51,991
și apoi le arăți
la oameni

617
00:28:52,034 --> 00:28:54,254
si iti ofera
hrană de gândit.

618
00:28:56,822 --> 00:28:59,389
Oamenii trebuie să aibă acel semnal de avertizare

619
00:28:59,433 --> 00:29:00,913
în fundul minții lor.

620
00:29:05,091 --> 00:29:06,745
cred eu
este cu adevărat important

621
00:29:06,788 --> 00:29:08,834
a distinge între
știința pe de o parte,

622
00:29:08,877 --> 00:29:11,010
și science fiction
pe de alta parte.

623
00:29:11,053 --> 00:29:12,489
nu stiu
ce se va întâmpla

624
00:29:12,533 --> 00:29:13,752
peste o mie de ani,

625
00:29:13,795 --> 00:29:15,188
ci ca cineva
în tranșee,

626
00:29:15,231 --> 00:29:17,190
ca cineva care construiește
sisteme AI,

627
00:29:17,233 --> 00:29:20,628
care a făcut asta de mai mult
peste un sfert de secol,

628
00:29:20,671 --> 00:29:22,891
Simt că am
mâna mea pe puls

629
00:29:22,935 --> 00:29:24,588
despre ce se va întâmpla în continuare,

630
00:29:24,632 --> 00:29:26,982
în următoarele cinci,
zece, 20 de ani,

631
00:29:27,026 --> 00:29:28,636
cu atât mai mult
decât acești oameni

632
00:29:28,679 --> 00:29:31,900
care până la urmă nu sunt
construirea de sisteme AI.

633
00:29:31,944 --> 00:29:34,294
Vrem să construim tehnologia,
gandeste-te la asta.

634
00:29:34,337 --> 00:29:36,252
Vrem să vedem
cum reacționează oamenii la asta

635
00:29:36,296 --> 00:29:39,081
și construiește următoarea generație
și faceți-l mai bun.

636
00:29:40,953 --> 00:29:43,694
Scepticism
despre dacă aceasta pune

637
00:29:43,738 --> 00:29:47,786
orice pericol pentru noi
pare ciudat.

638
00:29:47,829 --> 00:29:52,094
Chiar dacă i-am dat obiective
pe care le aprobăm,

639
00:29:52,138 --> 00:29:56,795
poate forma scopuri instrumentale
pe care nu le putem prevedea,

640
00:29:56,838 --> 00:29:58,666
care nu sunt aliniate
cu interesul nostru.

641
00:29:58,709 --> 00:30:01,451
Și aceasta este problema alinierii obiectivelor.

642
00:30:01,495 --> 00:30:03,149
Alinierea obiectivelor.

643
00:30:03,192 --> 00:30:06,239
Exact cum
a început lupta mea cu HAL.

644
00:30:06,282 --> 00:30:10,112
Problema alinierii obiectivelor
cu AI este unde

645
00:30:10,852 --> 00:30:13,463
i-ai stabilit un scop

646
00:30:14,334 --> 00:30:17,554
și apoi, drumul
că face acest scop

647
00:30:17,598 --> 00:30:20,819
se dovedește a fi în contradicție
cu ceea ce îți doreai cu adevărat.

648
00:30:22,081 --> 00:30:25,649
Problema clasică de aliniere a AI în film...

649
00:30:25,693 --> 00:30:27,521
Bună ziua. HAL, mă citești?

650
00:30:27,564 --> 00:30:29,566
... este HAL în 2001.

651
00:30:30,611 --> 00:30:32,134
HAL, mă citești?

652
00:30:32,178 --> 00:30:34,397
HAL primește un obiectiv clar. Mă citești, HAL?

653
00:30:34,441 --> 00:30:38,662
Faceți misiunea să reușească. Dar ca să reușească,

654
00:30:38,706 --> 00:30:40,621
va trebui să facă

655
00:30:40,664 --> 00:30:42,275
unii dintre oameni
în misiune mor.

656
00:30:42,318 --> 00:30:45,191
Afirmativ, Dave.
te-am citit.

657
00:30:46,453 --> 00:30:48,455
Deschide ușile compartimentului, HAL.

658
00:30:48,498 --> 00:30:50,065
Îmi pare rău, Dave.

659
00:30:50,109 --> 00:30:51,980
Mi-e teamă că nu pot face asta.

660
00:30:52,024 --> 00:30:55,766
„Îmi pare rău, Dave,
nu pot face asta,"

661
00:30:55,810 --> 00:30:58,987
este de fapt
o adevărată ilustrație de geniu

662
00:30:59,031 --> 00:31:02,512
care este adevărata amenințare
din super-inteligenta.

663
00:31:02,556 --> 00:31:05,472
Nu este răutate.
Este competență.

664
00:31:05,515 --> 00:31:07,169
HAL a fost cu adevărat competent

665
00:31:07,213 --> 00:31:11,913
și avea obiective care
pur și simplu nu s-a aliniat cu cel al lui Dave.

666
00:31:11,957 --> 00:31:13,523
HAL, nu mă voi certa
mai cu tine.

667
00:31:14,437 --> 00:31:15,569
Deschide usile!

668
00:31:16,178 --> 00:31:18,441
Dave, această conversație

669
00:31:18,485 --> 00:31:22,054
nu mai poate servi la nimic.
La revedere.

670
00:31:24,317 --> 00:31:25,318
HAL?

671
00:31:26,580 --> 00:31:27,581
HAL?

672
00:31:29,235 --> 00:31:30,236
HAL?

673
00:31:32,455 --> 00:31:33,456
HAL!

674
00:31:37,808 --> 00:31:39,549
HAL și eu
voia acelasi lucru.

675
00:31:40,986 --> 00:31:42,596
Doar nu în același mod.

676
00:31:44,119 --> 00:31:47,427
Și poate fi periculos
când obiectivele nu se aliniază.

677
00:31:52,127 --> 00:31:54,521
În filmul lui Kubrick,
a existat o solutie.

678
00:31:55,261 --> 00:31:57,567
Când HAL a încercat să mă omoare,

679
00:31:57,611 --> 00:31:59,178
Tocmai l-am oprit.

680
00:32:01,310 --> 00:32:03,922
Oamenii spun: „Ei bine, opriți-le”.

681
00:32:06,750 --> 00:32:08,665
Dar nu poți
doar oprește-le.

682
00:32:08,709 --> 00:32:10,537
Pentru că ei
deja gandit la asta.

683
00:32:10,580 --> 00:32:11,930
Sunt super inteligenți.

684
00:32:13,453 --> 00:32:15,716
Pentru o mașină
convins de scopul său,

685
00:32:15,759 --> 00:32:18,675
chiar și ceva la fel de simplu ca
„adu cafeaua”.

686
00:32:18,719 --> 00:32:21,200
Este evident pentru oricare
suficient de inteligent
mașină

687
00:32:21,243 --> 00:32:23,637
că nu poate aduce cafeaua
daca este oprit.

688
00:32:25,769 --> 00:32:28,076
Dă-i un obiectiv, ai dat mașinii

689
00:32:28,120 --> 00:32:30,252
un stimulent pentru a se apăra.

690
00:32:31,688 --> 00:32:33,908
Este un fel de comportament psihopat

691
00:32:33,952 --> 00:32:37,433
a fixării unice
asupra unui obiectiv.

692
00:32:39,261 --> 00:32:43,831
De exemplu, dacă ai vrut
să încerce să dezvolte un sistem

693
00:32:43,874 --> 00:32:46,094
care ar putea genera
pace mondială,

694
00:32:46,138 --> 00:32:48,662
atunci poate cel mai eficient,

695
00:32:49,184 --> 00:32:50,620
uh, și

696
00:32:51,708 --> 00:32:53,188
cale rapidă de a realiza asta

697
00:32:53,232 --> 00:32:55,669
este pur și simplu a anihila
toti oamenii.

698
00:32:59,716 --> 00:33:01,196
Doar scapă de oameni,

699
00:33:01,240 --> 00:33:02,763
ar înceta să fie în conflict.

700
00:33:04,069 --> 00:33:06,027
Atunci ar fi
pace mondială.

701
00:33:22,000 --> 00:33:23,827
Personal, am
foarte putin timp

702
00:33:23,871 --> 00:33:26,656
pentru acestea
discuții de salon.

703
00:33:26,700 --> 00:33:28,919
Trebuie să construim
aceste sisteme,

704
00:33:28,963 --> 00:33:30,486
experimenta cu ei,

705
00:33:30,530 --> 00:33:33,359
vezi unde se strica
si reparati-le.

706
00:33:34,708 --> 00:33:38,146
Avem atât de multe oportunități
să folosești AI pentru bine,

707
00:33:38,190 --> 00:33:40,192
de ce ne concentrăm pe frică?

708
00:33:41,410 --> 00:33:43,151
Le construim.

709
00:33:43,195 --> 00:33:45,371
Baby X este un exemplu.

710
00:33:46,720 --> 00:33:48,461
Va fi ea un AI bun?

711
00:33:49,505 --> 00:33:51,203
cred eu
ce este critic în asta

712
00:33:51,246 --> 00:33:53,596
este că mașinile
sunt responsabili,

713
00:33:53,640 --> 00:33:54,989
și te poți uita la ele

714
00:33:55,033 --> 00:33:57,035
și vezi ce face
ei bifează.

715
00:33:58,253 --> 00:34:01,082
Și cel mai bun mod de a înțelege ceva este să-l construiești.

716
00:34:02,301 --> 00:34:05,304
Baby X are
o fiziologie virtuală.

717
00:34:06,783 --> 00:34:11,484
Are circuite dureroase
și are circuite de bucurie.

718
00:34:12,920 --> 00:34:16,184
Ea are parametri care sunt
reprezentând de fapt

719
00:34:16,228 --> 00:34:18,752
starea ei chimică internă,
daca iti place.

720
00:34:21,320 --> 00:34:23,887
Știi, dacă e stresată,
există cortizol ridicat.

721
00:34:23,931 --> 00:34:25,541
Dacă se simte bine,
dopamină ridicată,

722
00:34:25,585 --> 00:34:27,500
serotonină ridicată,
genul acela de lucruri.

723
00:34:28,414 --> 00:34:30,111
Totul face parte din, știi,

724
00:34:30,155 --> 00:34:32,505
adăugând factori umani suplimentari
în calcul.

725
00:34:32,548 --> 00:34:34,985
Acum, pentru că are astea
sisteme emoționale virtuale,

726
00:34:35,029 --> 00:34:36,552
Pot face lucruri precum...

727
00:34:36,596 --> 00:34:39,251
O voi evita
sau ascunde-te aici.

728
00:34:39,294 --> 00:34:41,427
Deci ea caută
unde m-am dus.

729
00:34:42,993 --> 00:34:45,996
Deci ar trebui să începem să vedem
acumularea virtuală a cortizolului.

730
00:34:46,040 --> 00:34:49,913
Aww!

731
00:34:49,957 --> 00:34:53,656
Am oprit audio
cu un motiv, dar oricum...

732
00:34:53,700 --> 00:34:55,832
O voi pune
din mizeria ei.
Bine. Îmi pare rău.

733
00:34:55,876 --> 00:34:58,661
E în regulă, dragă.
Nu plânge. E în regulă.
E în regulă.

734
00:34:58,705 --> 00:35:00,228
fată bună. Bine. Da.

735
00:35:00,272 --> 00:35:02,012
Deci ce se întâmplă
ea răspunde

736
00:35:02,056 --> 00:35:04,145
la expresiile feței mele
și vocea mea.

737
00:35:06,452 --> 00:35:08,758
Dar cum este starea chimică

738
00:35:08,802 --> 00:35:10,412
reprezentat în Baby X?

739
00:35:10,456 --> 00:35:12,414
Este la propriu
un parametru matematic.

740
00:35:12,458 --> 00:35:15,156
Deci există niveluri,
niveluri diferite de dopamină,

741
00:35:15,200 --> 00:35:16,810
dar ei sunt
reprezentate prin numere.

742
00:35:20,030 --> 00:35:23,469
Harta ei virtuale
stare neurochimică

743
00:35:24,122 --> 00:35:25,427
este probabil cel mai apropiat

744
00:35:25,471 --> 00:35:28,387
pe care îl putem obține
la experiența simțită.

745
00:35:31,259 --> 00:35:33,131
Deci dacă putem construi
un model de calculator

746
00:35:33,174 --> 00:35:36,134
pe care îl putem schimba
setările de
și parametrii,

747
00:35:36,177 --> 00:35:38,440
oferiți-i experiențe diferite,

748
00:35:38,484 --> 00:35:40,050
și lăsați-l să interacționeze cu noi

749
00:35:40,094 --> 00:35:42,270
cum interacționăm
cu alte persoane,

750
00:35:42,314 --> 00:35:44,272
poate asta e o cale
a explora

751
00:35:44,316 --> 00:35:45,882
constiinta in
un nou mod.

752
00:35:48,276 --> 00:35:50,974
Dacă o face
deveni conștient,

753
00:35:51,018 --> 00:35:52,846
ce fel de viata
va dori ea?

754
00:35:55,240 --> 00:35:57,894
Un AI, dacă este conștient,

755
00:35:57,938 --> 00:36:00,506
atunci e ca și copilul tău.

756
00:36:03,117 --> 00:36:05,337
Are drepturi?

757
00:36:05,380 --> 00:36:07,513
Anul trecut,
Legislatorii europeni
a adoptat o rezoluție

758
00:36:07,556 --> 00:36:11,560
pentru a acorda statut juridic
persoanelor electronice.

759
00:36:11,604 --> 00:36:13,171
Acea mișcare este acum
fiind luate în considerare

760
00:36:13,214 --> 00:36:14,868
de către Comisia Europeană.

761
00:36:16,565 --> 00:36:17,871
Mașini cu drepturi.

762
00:36:19,394 --> 00:36:20,656
Suntem pregătiți pentru asta?

763
00:36:22,441 --> 00:36:25,313
Cred că ridică
probleme morale și etice,

764
00:36:25,357 --> 00:36:27,228
pe care noi cu adevărat

765
00:36:27,924 --> 00:36:31,276
sunt cei mai mulțumiți să ignore.

766
00:36:35,845 --> 00:36:37,456
Ce este
pe care ne dorim cu adevărat?

767
00:36:38,761 --> 00:36:40,850
Ne dorim o creatură, o ființă, pe care să o putem

768
00:36:40,894 --> 00:36:42,548
interacționează cu într-un fel,

769
00:36:42,591 --> 00:36:45,507
este suficient ca noi
că ne putem raporta la el,

770
00:36:45,551 --> 00:36:48,728
dar este dispensabil
sau de unică folosință.

771
00:36:50,469 --> 00:36:52,471
Prima și cea mai notabilă,

772
00:36:52,514 --> 00:36:54,255
Cred că era în Metropolis.

773
00:36:58,303 --> 00:37:00,522
Doppelgangerul Maria care a fost creat de

774
00:37:00,566 --> 00:37:03,917
omul de știință a simulat o femeie sexy.

775
00:37:08,226 --> 00:37:11,359
Și asta se întoarce
spre înclinaţia noastră pentru sclavie

776
00:37:11,403 --> 00:37:12,534
de-a lungul veacurilor.

777
00:37:12,578 --> 00:37:14,144
Să luăm oameni
ca putem,

778
00:37:14,188 --> 00:37:16,538
într-un fel, dezumanizați

779
00:37:16,582 --> 00:37:19,019
și putem face
ce vrem noi cu ei.

780
00:37:19,062 --> 00:37:21,282
Și așa, cred,
suntem doar, știi,

781
00:37:21,326 --> 00:37:23,241
găsind o nouă cale
a face sclavie.

782
00:37:27,332 --> 00:37:30,465
Ar fi potrivit pentru noi
să-i avem drept sclavi?

783
00:37:33,512 --> 00:37:35,731
Toate acestea devin
ușor ciudat din punct de vedere etic

784
00:37:35,775 --> 00:37:38,821
dacă ni se întâmplă,
la alegere sau accidental,

785
00:37:38,865 --> 00:37:40,867
construiește sclavi conștienți.

786
00:37:40,910 --> 00:37:44,653
Asta pare o morală
lucru discutabil de făcut,

787
00:37:44,697 --> 00:37:47,090
dacă nu de-a dreptul
lucru rău de făcut.

788
00:37:47,134 --> 00:37:49,267
Inteligența artificială
isi face drum

789
00:37:49,310 --> 00:37:51,094
pe piața sexuală mondială.

790
00:37:51,138 --> 00:37:53,096
O companie din California
se va lansa în curând

791
00:37:53,140 --> 00:37:56,143
un nou incredibil de realist
robot sexual

792
00:37:56,186 --> 00:37:58,537
condus de
inteligența artificială.

793
00:37:58,580 --> 00:38:00,452
O singură aplicație
asta ma deranjeaza

794
00:38:00,495 --> 00:38:02,802
este ascensiunea roboților sexuali

795
00:38:02,845 --> 00:38:06,327
care sunt modelate
după imaginea femeilor adevărate.

796
00:38:06,371 --> 00:38:08,895
sunt deja
cucerind lumea

797
00:38:08,938 --> 00:38:10,462
câte un dormitor.

798
00:38:11,332 --> 00:38:13,116
Dacă sunt conștienți,

799
00:38:13,160 --> 00:38:15,162
capabil de simțire,

800
00:38:15,205 --> 00:38:18,948
de a experimenta durere
si suferinta,

801
00:38:18,992 --> 00:38:22,735
iar ei erau
supus degradantului, crud

802
00:38:22,778 --> 00:38:26,869
sau alte forme de cu totul
tratament inacceptabil,

803
00:38:26,913 --> 00:38:30,525
pericolul este că
am deveni desensibilizați

804
00:38:30,569 --> 00:38:34,094
la ceea ce este moral acceptabil
si ce nu este.

805
00:38:40,796 --> 00:38:44,670
Dacă e conștientă,
ar trebui să poată spune nu.

806
00:38:44,713 --> 00:38:45,714
Corect?

807
00:38:50,197 --> 00:38:51,720
Nu ar trebui să aibă această putere?

808
00:38:54,680 --> 00:38:58,814
Nu acestea sunt întrebările
trebuie să întrebăm acum?

809
00:39:01,034 --> 00:39:04,080
Ce vrem
a însemna a fi om?

810
00:39:05,299 --> 00:39:08,171
Toate celelalte specii de pe Pământ,
pana acum,

811
00:39:08,215 --> 00:39:10,522
nu am avut luxul

812
00:39:10,565 --> 00:39:12,480
să răspundă la ce au
vreau să însemne

813
00:39:12,524 --> 00:39:14,439
a fi un șoarece
sau a fi un râme.

814
00:39:14,482 --> 00:39:17,659
Dar acum am ajuns
acest punct de cotitură

815
00:39:17,703 --> 00:39:20,401
unde înțelegerea noastră
a științei și tehnologiei

816
00:39:20,445 --> 00:39:23,186
a ajuns în punctul în care
ne putem transforma complet

817
00:39:23,230 --> 00:39:24,710
ce înseamnă să fii noi.

818
00:39:30,890 --> 00:39:33,588
Ce va însemna
a fi om?

819
00:39:36,896 --> 00:39:41,553
Dacă mașinile devin mai multe,
vom deveni mai puțini?

820
00:39:43,642 --> 00:39:46,601
Computerul Deep Blue
a triumfat în seara asta

821
00:39:46,645 --> 00:39:48,951
campionul mondial la șah
Garry Kasparov.

822
00:39:48,995 --> 00:39:51,040
Este prima dată
o mașină a învins

823
00:39:51,084 --> 00:39:52,390
un campion mondial în vigoare.

824
00:39:52,433 --> 00:39:53,521
Mai multe despre acea confruntare

825
00:39:53,565 --> 00:39:55,262
pe una dintre cele ale Americii
cel mai iubit

826
00:39:55,305 --> 00:39:56,481
spectacole de jocuri, Jeopardy!

827
00:39:56,524 --> 00:39:58,483
Doi campioni umani merg

828
00:39:58,526 --> 00:40:01,399
creier la creier cu un super-computer numit Watson.

829
00:40:01,442 --> 00:40:02,661
Ce este Judecata de Apoi?

830
00:40:02,704 --> 00:40:04,010
Corecta.
Du-te din nou. Watson.

831
00:40:04,053 --> 00:40:06,012
Cine este Jean Valjean? - Corect.

832
00:40:06,055 --> 00:40:07,796
Un program de calculator Google are

833
00:40:07,840 --> 00:40:10,190
încă o dată bătut
un campion mondial la Go.

834
00:40:10,233 --> 00:40:12,453
Go, un vechi joc de masă chinezesc,

835
00:40:12,497 --> 00:40:15,238
este una dintre cele mai complexe
jocuri concepute vreodată.

836
00:40:15,282 --> 00:40:18,154
Este o altă piatră de hotar în
graba de a dezvolta mașini

837
00:40:18,198 --> 00:40:19,765
care sunt mai deștepți decât oamenii.

838
00:40:19,808 --> 00:40:21,897
Avem
acest aer de superioritate,

839
00:40:21,941 --> 00:40:23,551
noi ca oameni.

840
00:40:23,595 --> 00:40:27,425
Așa că ne-am cam obișnuit să fim
cel mai deștept copil din bloc.

841
00:40:27,468 --> 00:40:30,428
Și cred că
nu mai este cazul.

842
00:40:30,471 --> 00:40:34,606
Și știm asta
pentru că ne bazăm pe AI

843
00:40:34,649 --> 00:40:37,043
pentru a ne ajuta să facem
multe decizii importante.

844
00:40:40,699 --> 00:40:44,746
Oamenii sunt iraționali
în multe moduri foarte rele.

845
00:40:44,790 --> 00:40:48,968
Suntem prejudiciați,
începem războaie, ucidem oameni.

846
00:40:51,318 --> 00:40:53,276
Dacă vrei să maximizezi
şansele

847
00:40:53,320 --> 00:40:55,278
a oamenilor care supraviețuiesc în general,

848
00:40:55,322 --> 00:40:57,629
ar trebui în esență
da din ce in ce mai mult

849
00:40:57,672 --> 00:40:59,805
puteri de decizie
la calculatoare.

850
00:41:05,158 --> 00:41:08,161
Poate că mașinile ar face o treabă mai bună decât noi.

851
00:41:10,250 --> 00:41:11,251
Pot fi.

852
00:41:19,520 --> 00:41:22,305
sunt incantata
și onorat să fiu aici

853
00:41:22,349 --> 00:41:23,872
la Natiunile Unite.

854
00:41:23,916 --> 00:41:27,876
Viitorul este aici. Este doar
nu distribuite uniform.

855
00:41:27,920 --> 00:41:29,835
AI ar putea ajuta
distribuie eficient

856
00:41:29,878 --> 00:41:31,663
ale lumii
resursele existente,

857
00:41:31,706 --> 00:41:33,534
precum mâncarea și energia.

858
00:41:34,883 --> 00:41:37,451
Sunt aici pentru a ajuta umanitatea
crea viitorul.

859
00:41:40,541 --> 00:41:42,369
Acela
scenariu super-inteligent

860
00:41:42,412 --> 00:41:43,936
asta e provocator
să mă gândesc

861
00:41:43,979 --> 00:41:46,765
este ceea ce numesc eu
dictatorul binevoitor.

862
00:41:46,808 --> 00:41:48,941
Unde ai
această super-inteligență
care conduce Pământul,

863
00:41:48,984 --> 00:41:51,117
ghidat de principii etice stricte care încearcă

864
00:41:51,160 --> 00:41:52,945
pentru a ajuta omenirea să înflorească.

865
00:41:54,642 --> 00:41:56,165
Toată lumea i-ar plăcea asta?

866
00:41:56,209 --> 00:41:57,297
Dacă nu există boală,

867
00:41:57,340 --> 00:41:59,038
fara saracie, fara crima...

868
00:42:00,039 --> 00:42:02,345
Mulți oameni ar fi probabil
o prefera cu mult

869
00:42:02,389 --> 00:42:03,999
la soarta lor astăzi.

870
00:42:04,043 --> 00:42:06,436
Dar îmi pot imagina că unii
s-ar putea încă să se plângă

871
00:42:06,480 --> 00:42:09,831
că noi oamenii doar
nu ai mai multa libertate

872
00:42:09,875 --> 00:42:13,052
pentru a ne determina propriul curs.
Și, um...

873
00:42:15,968 --> 00:42:18,623
Este unul dur.
Chiar este. Noi...

874
00:42:18,666 --> 00:42:20,668
Nu cred că majoritatea oamenilor
ar vrea să fie

875
00:42:20,712 --> 00:42:23,279
ca animalele de la grădina zoologică, fără...

876
00:42:28,197 --> 00:42:29,808
Pe de alta parte...

877
00:42:29,851 --> 00:42:30,896
Da.

878
00:42:31,810 --> 00:42:33,202
Nu am răspunsuri sclipitoare

879
00:42:33,246 --> 00:42:34,769
la acestea cu adevărat
întrebări grele.

880
00:42:34,813 --> 00:42:36,858
De aceea cred
este atât de important

881
00:42:36,902 --> 00:42:38,730
că noi, ca comunitate globală

882
00:42:38,773 --> 00:42:41,820
chiar discută-le acum.

883
00:42:41,863 --> 00:42:43,604
Maşini care
iti pot citi fata.

884
00:42:43,648 --> 00:42:44,910
Recunoaște indiciile emoționale.

885
00:42:44,953 --> 00:42:46,781
Mai aproape de un creier
proces al unui om...

886
00:42:46,825 --> 00:42:48,304
Roboți impregnați
cu viata...

887
00:42:48,348 --> 00:42:49,871
Un computer emoțional...

888
00:42:49,915 --> 00:42:52,395
Din acest moment,
indiferent de
fie ca gandesti

889
00:42:52,439 --> 00:42:54,223
doar o să rămânem blocați
cu AI îngustă

890
00:42:54,267 --> 00:42:57,705
sau vom obține AI general
sau obțineți AI super-inteligentă

891
00:42:57,749 --> 00:42:59,011
sau conștient
super inteligent...

892
00:42:59,054 --> 00:43:00,839
Oriunde te gândești
vom ajunge la,

893
00:43:00,882 --> 00:43:03,189
Cred că orice etapă de-a lungul asta

894
00:43:03,842 --> 00:43:05,844
va schimba cine suntem.

895
00:43:07,454 --> 00:43:09,587
Sus și la ei, domnul J.

896
00:43:11,806 --> 00:43:13,721
Întrebarea
trebuie să întrebi este,

897
00:43:13,765 --> 00:43:16,158
AI va face ceva
pentru tine

898
00:43:16,202 --> 00:43:17,507
sau ceva pentru tine?

899
00:43:17,551 --> 00:43:19,727
visam
despre somn.

900
00:43:19,771 --> 00:43:21,424
Dacă construim sisteme AI

901
00:43:21,468 --> 00:43:22,948
care facem tot ce ne dorim,

902
00:43:22,991 --> 00:43:26,647
cam predăm
lumea noastră pentru ei.

903
00:43:26,691 --> 00:43:29,955
Deci genul ăsta de slăbire
este oarecum ireversibilă.

904
00:43:33,741 --> 00:43:37,789
Există un risc existențial
asta e real si serios.

905
00:43:39,312 --> 00:43:41,880
Dacă fiecare dorință,

906
00:43:41,923 --> 00:43:44,839
preferință, nevoie, a fost satisfăcută...

907
00:43:44,883 --> 00:43:47,668
Buna dimineata, Rosie.
Ce este pentru micul dejun?

908
00:43:47,712 --> 00:43:50,802
...nu observăm
că capacitatea noastră

909
00:43:50,845 --> 00:43:53,587
a lua decizii
pentru noi înșine

910
00:43:53,631 --> 00:43:56,285
a fost erodat încet.

911
00:43:56,808 --> 00:43:58,374
Acesta este George Jetson,

912
00:43:58,418 --> 00:44:01,160
semnarea pentru
toată ziua.

913
00:44:03,118 --> 00:44:05,468
Nu există întoarcere
de acolo. De ce?

914
00:44:05,512 --> 00:44:08,384
Pentru că AI poate face
astfel de decizii

915
00:44:08,428 --> 00:44:09,951
cu o precizie mai mare

916
00:44:09,995 --> 00:44:12,345
decât orice
o ființă umană poate realiza.

917
00:44:14,390 --> 00:44:17,785
Am avut o conversație
cu un inginer și a spus:

918
00:44:17,829 --> 00:44:20,701
„Uite, cel mai sigur mod
de aterizarea unui avion astăzi

919
00:44:20,745 --> 00:44:22,311
„este să ai pilotul
părăsi puntea

920
00:44:22,355 --> 00:44:23,704
„și aruncă cheia,

921
00:44:23,748 --> 00:44:25,837
„pentru că cea mai sigură cale

922
00:44:25,880 --> 00:44:29,362
„este de folosit
un pilot automat, un AI.”

923
00:44:31,843 --> 00:44:33,714
Nu putem
gestionează complexitatea

924
00:44:33,758 --> 00:44:35,411
a lumii de către noi înșine.

925
00:44:35,455 --> 00:44:37,718
Forma noastră de inteligență,

926
00:44:37,762 --> 00:44:40,547
oricât de uimitor este,
este grav defectuos.

927
00:44:40,590 --> 00:44:42,854
Și prin adăugarea
un ajutor suplimentar,

928
00:44:42,897 --> 00:44:44,943
care este
inteligență artificială,

929
00:44:44,986 --> 00:44:47,336
suportăm capacitatea
pentru a se îmbunătăți potențial

930
00:44:47,380 --> 00:44:49,643
cogniția noastră în mod dramatic.

931
00:44:49,687 --> 00:44:52,994
Lucrul cel mai de ultimă oră
despre Hannes Sjoblad

932
00:44:53,038 --> 00:44:54,735
nu e telefonul în mână,

933
00:44:54,779 --> 00:44:57,782
este microcipul
în mâna lui.

934
00:44:57,825 --> 00:44:59,348
Dacă ai putea
tastați ceva

935
00:44:59,392 --> 00:45:00,872
doar gândindu-te la asta?

936
00:45:00,915 --> 00:45:01,960
Sună ca SF,

937
00:45:02,003 --> 00:45:03,396
dar poate fi aproape
la realitate.

938
00:45:03,439 --> 00:45:05,354
În doar cinci ani,

939
00:45:05,398 --> 00:45:08,009
oamenii super-inteligenti ar putea fi
mergând pe stradă,

940
00:45:08,053 --> 00:45:09,532
bărbați și femei care au plătit

941
00:45:09,576 --> 00:45:11,273
a spori
inteligența lor.

942
00:45:11,317 --> 00:45:14,233
Conectarea creierului la computere
prin utilizarea implanturilor.

943
00:45:14,276 --> 00:45:16,104
Dacă am putea încărca
o copie digitală

944
00:45:16,148 --> 00:45:18,193
a amintirilor noastre
și conștiința până la un punct

945
00:45:18,237 --> 00:45:19,542
că fiinţele umane
ar putea realiza

946
00:45:19,586 --> 00:45:21,283
un fel de nemurire digitală?

947
00:45:21,327 --> 00:45:22,720
Chiar anul trecut,

948
00:45:22,763 --> 00:45:25,331
pentru prima dată
în istoria lumii,

949
00:45:25,374 --> 00:45:26,854
a fost înregistrată o amintire.

950
00:45:26,898 --> 00:45:28,638
Putem lua de fapt
memorie înregistrată

951
00:45:28,682 --> 00:45:30,815
și introduceți-l înapoi
într-un animal,

952
00:45:30,858 --> 00:45:32,294
și își amintește.

953
00:45:32,338 --> 00:45:33,774
Tehnologia face parte din noi.

954
00:45:33,818 --> 00:45:35,210
Este o reflectare a
cine suntem.

955
00:45:35,254 --> 00:45:38,257
Asta este narațiunea
ar trebui să ne gândim la.

956
00:45:38,300 --> 00:45:42,435
Credem că tot ce există
este tot ce ne putem imagina.

957
00:45:42,478 --> 00:45:44,002
Când în realitate,
ne putem imagina

958
00:45:44,045 --> 00:45:46,874
un subset foarte mic
de ce este
posibil posibil.

959
00:45:46,918 --> 00:45:48,571
Lucrurile cu adevărat interesante
în lume

960
00:45:48,615 --> 00:45:50,399
este ceea ce sta
dincolo de imaginația noastră.

961
00:45:51,836 --> 00:45:54,142
Când acestea
apar sisteme masive,

962
00:45:54,186 --> 00:45:56,405
ca specie,
Cred că obținem un F

963
00:45:56,449 --> 00:45:59,408
pentru capacitatea noastră de a prezice
ceea ce vor deveni.

964
00:46:00,932 --> 00:46:03,543
Tehnologia
ne-a schimbat mereu.

965
00:46:04,457 --> 00:46:05,806
Evoluăm cu el.

966
00:46:06,851 --> 00:46:09,897
Cât de departe suntem pregătiți
sa mergi de data asta?

967
00:46:10,855 --> 00:46:13,074
A fost un timp
când Aristotel

968
00:46:13,118 --> 00:46:15,337
a deplâns creația
a limbajului scris

969
00:46:15,381 --> 00:46:18,079
pentru că a spus că asta ar fi
distruge amintirile oamenilor

970
00:46:18,123 --> 00:46:19,646
si ar fi
un lucru groaznic.

971
00:46:19,689 --> 00:46:22,823
Și totuși astăzi, port
creierul meu în buzunar,

972
00:46:22,867 --> 00:46:24,520
sub forma smartphone-ului meu,

973
00:46:24,564 --> 00:46:27,915
și asta a schimbat drumul
Trec prin lume.

974
00:46:27,959 --> 00:46:30,483
Oh, cred că suntem absolut
fuzionarea cu tehnologia noastră.

975
00:46:30,526 --> 00:46:33,791
Absolut. Aș... aș face
folosiți termenul „co-evoluție”.

976
00:46:36,750 --> 00:46:38,578
Îl dezvoltăm pentru a se potrivi nevoilor noastre

977
00:46:38,621 --> 00:46:42,190
și ne schimbăm pentru a ne potrivi cu ceea ce ne poate oferi.

978
00:46:45,759 --> 00:46:49,023
Deci, în loc să fie
înlocuite cu mașini,

979
00:46:49,067 --> 00:46:51,417
vom fuziona
cu ei?

980
00:46:51,460 --> 00:46:54,463
Am o serie de prieteni
care au brate bionice.

981
00:46:54,507 --> 00:46:55,813
Sunt cyborgi?

982
00:46:55,856 --> 00:46:57,075
Într-un fel,
sunt pe acea cale.

983
00:46:57,118 --> 00:46:59,468
Am oameni
care au implanturi

984
00:46:59,512 --> 00:47:02,123
în urechile lor.
Sunt IA?

985
00:47:02,167 --> 00:47:04,082
Ei bine, suntem într-un fel
pe acel drum

986
00:47:04,125 --> 00:47:06,301
a sporirii corpurilor umane.

987
00:47:07,912 --> 00:47:09,696
Potențialul uman stă

988
00:47:09,739 --> 00:47:12,133
în acest co-evoluţionar
relație.

989
00:47:12,177 --> 00:47:14,048
O mulțime de oameni
încearcă să se țină

990
00:47:14,092 --> 00:47:16,137
lucrurile care le fac
speciale și unice,

991
00:47:16,181 --> 00:47:17,878
care nu este
cadrul corect.

992
00:47:17,922 --> 00:47:19,227
Să creăm mai multe.

993
00:47:21,229 --> 00:47:24,058
Rescrie-ne inteligența,
îmbunătăți totul

994
00:47:24,102 --> 00:47:27,192
suntem capabili. Emoții,
imaginație, creativitate.

995
00:47:27,235 --> 00:47:29,020
Tot ceea ce
ne face oameni.

996
00:47:33,894 --> 00:47:35,896
Există deja
o relație simbiotică

997
00:47:35,940 --> 00:47:39,465
între noi și o mașinărie
asta sporește ceea ce suntem.

998
00:47:43,338 --> 00:47:45,775
Și... Și există o întreagă mișcare, știi,

999
00:47:45,819 --> 00:47:47,386
mișcarea trans-umană,

1000
00:47:47,429 --> 00:47:48,735
unde practic

1001
00:47:48,778 --> 00:47:51,259
oamenii chiar pariază mare

1002
00:47:51,303 --> 00:47:52,826
pe noţiunea că

1003
00:47:52,870 --> 00:47:54,872
această integrare mașină-om

1004
00:47:54,915 --> 00:47:57,091
va redefini cine suntem.

1005
00:48:00,921 --> 00:48:02,227
Asta doar va crește.

1006
00:48:06,100 --> 00:48:08,407
Va fi o învățare
proces care ne aduce

1007
00:48:08,450 --> 00:48:11,801
la acel final de joc unde
trăim cu aceste dispozitive

1008
00:48:11,845 --> 00:48:13,934
care devin
tot mai destept.

1009
00:48:13,978 --> 00:48:15,805
Învățăm
cum să ne adaptăm

1010
00:48:15,849 --> 00:48:17,546
în jurul lor,
și se adaptează la noi.

1011
00:48:17,590 --> 00:48:20,158
Și sper să devenim
mai uman în acest proces.

1012
00:48:23,683 --> 00:48:25,903
E greu
pentru a înțelege cum fuzionarea

1013
00:48:25,946 --> 00:48:27,165
cu mașinile

1014
00:48:27,208 --> 00:48:28,557
ne poate face mai umani.

1015
00:48:30,081 --> 00:48:33,127
Dar se contopește
cea mai bună șansă a noastră de supraviețuire?

1016
00:48:35,086 --> 00:48:36,652
Noi, oamenii, suntem limitati

1017
00:48:36,696 --> 00:48:39,699
la cati neuroni
ne putem incadra in creierul nostru.

1018
00:48:39,742 --> 00:48:42,615
Și există și alte specii care au creier și mai mic.

1019
00:48:44,138 --> 00:48:46,314
Când te uiți la
albinele și peștii se mișcă,

1020
00:48:46,358 --> 00:48:49,230
se pare ca
un singur organism.

1021
00:48:49,274 --> 00:48:52,320
Și biologii se referă de fapt
lui ca un super-organism.

1022
00:48:56,237 --> 00:48:58,326
De aceea păsările se îngrămădesc,

1023
00:48:58,370 --> 00:49:00,546
iar albinele roiesc,
și școală de pește.

1024
00:49:00,589 --> 00:49:03,462
Ei iau decizii care sunt în interesul cel mai bun

1025
00:49:03,505 --> 00:49:04,942
a întregii populaţii

1026
00:49:04,985 --> 00:49:08,380
gândind împreună
ca această minte mai mare.

1027
00:49:12,558 --> 00:49:15,474
Și noi, oamenii, am putea face
acelaşi lucru prin formare

1028
00:49:15,517 --> 00:49:18,520
o minte stup care ne leagă
împreună cu AI.

1029
00:49:19,782 --> 00:49:21,828
Deci oamenii și software-ul împreună

1030
00:49:21,871 --> 00:49:24,265
deveniți această super-inteligență,

1031
00:49:24,309 --> 00:49:28,008
permițându-ne să luăm cele mai bune decizii pentru noi toți.

1032
00:49:30,663 --> 00:49:33,274
Când am început să caut
la asta, a sunat
infricosator pentru mine.

1033
00:49:33,318 --> 00:49:35,189
Dar apoi mi-am dat seama
e mai infricosator

1034
00:49:35,233 --> 00:49:37,104
pentru o inteligență extraterestră

1035
00:49:37,148 --> 00:49:40,107
să apară care are
nimic de-a face cu oamenii

1036
00:49:40,151 --> 00:49:42,849
decât pentru noi, oamenii
să se conecteze împreună

1037
00:49:42,892 --> 00:49:44,677
și devin
o super-inteligență.

1038
00:49:44,720 --> 00:49:46,809
Asta e direcția
la care lucrez,

1039
00:49:46,853 --> 00:49:48,898
uh, pentru că o văd ca,

1040
00:49:48,942 --> 00:49:51,031
într-un anumit sens,
singura alternativă

1041
00:49:51,075 --> 00:49:53,991
la oameni în cele din urmă
fiind înlocuit de AI.

1042
00:49:56,776 --> 00:50:00,301
Ne poate ajuta Baby X?
înțelegeți mașinile

1043
00:50:00,345 --> 00:50:02,347
ca sa putem lucra impreuna?

1044
00:50:03,522 --> 00:50:06,655
Mașină umană și inteligentă
cooperarea va defini

1045
00:50:06,699 --> 00:50:08,179
următoarea epocă a istoriei.

1046
00:50:09,397 --> 00:50:13,010
Probabil că trebuie să creați o mașină empatică virtuală.

1047
00:50:14,533 --> 00:50:16,491
Empatia este mult despre conectarea cu

1048
00:50:16,535 --> 00:50:18,580
luptele altor oameni.

1049
00:50:18,624 --> 00:50:20,060
Cu cât ai mai multă conexiune,

1050
00:50:20,104 --> 00:50:22,106
cu atât mai multă comunicare
că ai,

1051
00:50:22,149 --> 00:50:23,629
cu atât este mai sigur.

1052
00:50:26,066 --> 00:50:28,068
Deci la un nivel foarte elementar,

1053
00:50:28,112 --> 00:50:30,592
există un fel
a relației simbiotice.

1054
00:50:32,725 --> 00:50:34,509
Umanizand aceasta tehnologie,

1055
00:50:34,553 --> 00:50:36,859
de fapt mărești canalele

1056
00:50:36,903 --> 00:50:38,818
pentru comunicare și cooperare.

1057
00:50:40,254 --> 00:50:42,648
AI lucrează într-o lume umană

1058
00:50:42,691 --> 00:50:44,389
trebuie să fie despre oameni.

1059
00:50:47,044 --> 00:50:48,567
Viitorul este ceea ce îl facem noi.

1060
00:50:53,528 --> 00:50:56,227
Dacă noi
nu pot imagina un viitor

1061
00:50:56,270 --> 00:50:58,707
pe care ne dorim cu adevărat, cu adevărat,

1062
00:50:58,751 --> 00:51:00,579
probabil că suntem
nu o sa iau unul.

1063
00:51:04,974 --> 00:51:06,889
Stanley Kubrick
încercat să-și imagineze

1064
00:51:06,933 --> 00:51:09,457
ce viitor
ar putea arăta ca.

1065
00:51:09,501 --> 00:51:12,199
Acum că
acel viitor se apropie,

1066
00:51:12,243 --> 00:51:15,202
cine este la conducere
cum va arata?

1067
00:51:16,595 --> 00:51:18,205
Cine îl controlează? - Google.

1068
00:51:18,249 --> 00:51:20,033
Militarii. - Gigantul tehnologic Facebook...

1069
00:51:20,077 --> 00:51:22,166
Samsung...FEMEIE 2:
Facebook, Microsoft, Amazon.

1070
00:51:22,209 --> 00:51:23,906
Marea are
întoarse definitiv

1071
00:51:23,950 --> 00:51:26,387
în favoarea
lumea corporativă.

1072
00:51:26,431 --> 00:51:29,738
Armata SUA și bănuiesc
acest lucru este adevărat în întreaga lume,

1073
00:51:29,782 --> 00:51:32,698
nu poate ține o lumânare la AI
care se dezvoltă

1074
00:51:32,741 --> 00:51:33,873
în companiile corporative.

1075
00:51:36,136 --> 00:51:37,224
Dacă corporațiile,

1076
00:51:37,268 --> 00:51:39,966
nu națiuni, dețineți puterea,

1077
00:51:40,009 --> 00:51:42,925
ce putem face
într-un sistem capitalist

1078
00:51:42,969 --> 00:51:46,799
pentru a asigura AI
este dezvoltat în siguranță?

1079
00:51:48,627 --> 00:51:52,152
Dacă amestecați cercetarea AI
cu capitalismul,

1080
00:51:52,196 --> 00:51:54,372
pe de o parte, capitalismul
îl va face să ruleze mai repede.

1081
00:51:54,415 --> 00:51:56,896
De aceea primim
multe cercetări făcute.

1082
00:51:56,939 --> 00:51:58,332
Dar există o problemă de bază.

1083
00:51:58,376 --> 00:52:00,421
Va fi o presiune

1084
00:52:00,465 --> 00:52:03,555
pentru a fi primul pe piață,
nu cel mai sigur.

1085
00:52:03,598 --> 00:52:06,123
Această mașină era în modul pilot automat

1086
00:52:06,166 --> 00:52:07,907
când s-a prăbușit
în California de Nord,

1087
00:52:07,950 --> 00:52:09,300
uciderea șoferului.

1088
00:52:09,343 --> 00:52:11,432
Inteligența artificială
poate avea

1089
00:52:11,476 --> 00:52:14,261
mai multă putere de a se prăbuși
piețele
decât orice altceva

1090
00:52:14,305 --> 00:52:17,003
pentru că oamenii nu sunt
pregătit să-i oprească.

1091
00:52:17,046 --> 00:52:19,179
Un chatbot pe nume Tay.

1092
00:52:19,223 --> 00:52:20,963
Ea a fost concepută să vorbească ca o adolescentă

1093
00:52:21,007 --> 00:52:23,140
și învață interacționând online.

1094
00:52:23,183 --> 00:52:25,446
Dar în câteva ore, Tay a fost corupt

1095
00:52:25,490 --> 00:52:29,058
într-un sexbot care sprijină Hitler.

1096
00:52:29,102 --> 00:52:33,106
Genul ăsta de discuții care cumva
în contextul capitalismului,

1097
00:52:33,150 --> 00:52:36,979
AI va fi folosit greșit,
chiar mă frustrează.

1098
00:52:37,023 --> 00:52:39,025
Ori de câte ori ne dezvoltăm
tehnologie,

1099
00:52:39,068 --> 00:52:42,246
fie că este, știi,
centrale de ardere a cărbunelui,
fie că este vorba de mașini,

1100
00:52:42,289 --> 00:52:45,249
întotdeauna există acel stimulent
să mergi repede înainte,

1101
00:52:45,292 --> 00:52:47,555
și există întotdeauna
regimul de reglementare,

1102
00:52:47,599 --> 00:52:50,384
parte a sarcinii guvernului
pentru a echilibra asta.

1103
00:52:50,428 --> 00:52:51,777
AI nu este diferit aici.

1104
00:52:53,170 --> 00:52:55,259
Ori de câte ori avem
progrese tehnologice,

1105
00:52:55,302 --> 00:52:56,695
trebuie să le temperăm

1106
00:52:56,738 --> 00:52:59,219
cu adecvate
reguli și reglementări.

1107
00:52:59,524 --> 00:53:00,829
Duh!

1108
00:53:00,873 --> 00:53:03,005
Până când există
un dezastru major,

1109
00:53:03,049 --> 00:53:04,311
corporațiile vor
să spună

1110
00:53:04,355 --> 00:53:06,095
„Oh, nu trebuie să ne facem griji
despre aceste lucruri.

1111
00:53:06,139 --> 00:53:07,401
„Aveți încredere în noi, noi suntem experții.

1112
00:53:07,445 --> 00:53:09,490
„Avem ale umanității
interesele cele mai bune din suflet.”

1113
00:53:09,534 --> 00:53:12,624
Despre ce este de fapt AI
este un nou set de reguli

1114
00:53:12,667 --> 00:53:16,018
pentru companii din punct de vedere al
cum să fii mai competitiv,

1115
00:53:16,062 --> 00:53:18,543
cum să conduci mai multă eficiență,
și cum să stimulezi creșterea,

1116
00:53:18,586 --> 00:53:20,632
și creativ nou
modele de afaceri și...

1117
00:53:20,675 --> 00:53:22,416
Odată oameni de știință corporativi

1118
00:53:22,460 --> 00:53:23,983
începe să domine dezbaterea,

1119
00:53:24,026 --> 00:53:26,333
totul s-a terminat, ai pierdut.

1120
00:53:26,377 --> 00:53:29,380
Știi, sunt plătiți
a nega existența

1121
00:53:29,423 --> 00:53:31,512
a riscurilor
și rezultate negative.

1122
00:53:32,948 --> 00:53:36,213
Momentan,
aproape toate cercetările AI

1123
00:53:36,256 --> 00:53:38,345
este despre a face vieți umane

1124
00:53:38,389 --> 00:53:41,479
mai lung, mai sănătos și mai ușor.

1125
00:53:42,219 --> 00:53:43,742
Pentru că marile companii,

1126
00:53:43,785 --> 00:53:45,309
vor să vă vândă IA

1127
00:53:45,352 --> 00:53:46,527
care sunt utile pentru tine,

1128
00:53:46,571 --> 00:53:48,312
si asa esti
merg doar sa cumpar

1129
00:53:48,355 --> 00:53:49,704
cele care te ajuta.

1130
00:53:51,402 --> 00:53:53,578
Problema AI
într-o paradigmă capitalistă

1131
00:53:53,621 --> 00:53:56,581
este întotdeauna
va fi mai ieftin

1132
00:53:56,624 --> 00:53:59,236
doar pentru a obține produsul
acolo când își face treaba

1133
00:53:59,279 --> 00:54:02,195
mai degrabă decât să o faci în siguranță.

1134
00:54:02,239 --> 00:54:04,676
Chiar acum, așa cum funcționează,
ai o conferinta

1135
00:54:04,719 --> 00:54:07,548
cu 10.000 de cercetători,
toți lucrând

1136
00:54:07,592 --> 00:54:11,204
despre dezvoltarea unei IA mai capabile, cu excepția a 50 de oameni

1137
00:54:11,248 --> 00:54:13,511
care au un atelier minuscul
vorbind despre siguranță

1138
00:54:13,554 --> 00:54:15,687
și controlând
ceea ce toți ceilalți fac.

1139
00:54:16,775 --> 00:54:19,734
Nimeni nu are un mecanism de siguranță în funcționare.

1140
00:54:19,778 --> 00:54:22,259
Și nimeni nici măcar nu are
un prototip pentru el.

1141
00:54:24,609 --> 00:54:26,175
Într-un viitor nu atât de îndepărtat,

1142
00:54:26,219 --> 00:54:28,439
vei avea
tot felul de IA

1143
00:54:28,482 --> 00:54:31,093
asta nu fac doar
ce le spun oamenii,

1144
00:54:31,137 --> 00:54:33,400
dar vor inventa
propriile lor obiective

1145
00:54:33,444 --> 00:54:35,054
și propriile lor experimente,

1146
00:54:35,097 --> 00:54:37,535
și vor transcende
omenirea.

1147
00:54:40,364 --> 00:54:41,756
De astăzi,

1148
00:54:41,800 --> 00:54:43,454
as spune
este complet lipsit de etică

1149
00:54:43,497 --> 00:54:45,847
să încercăm să dezvolt o astfel de mașină și să o eliberez.

1150
00:54:48,372 --> 00:54:50,461
Avem o singură șansă
pentru a face bine.

1151
00:54:50,504 --> 00:54:53,464
Te strica,
totul este posibil pierdut.

1152
00:54:57,381 --> 00:54:59,948
Ce se întâmplă
dacă înțelegem greșit?

1153
00:55:01,167 --> 00:55:03,387
Lucrul care mă sperie
cel mai mult este acest AI

1154
00:55:03,430 --> 00:55:06,303
va deveni produsul
a părinților săi,

1155
00:55:06,346 --> 00:55:09,131
in acelasi fel
că tu ești și eu sunt.

1156
00:55:09,175 --> 00:55:11,264
Să întrebăm cine
acei parinti sunt.

1157
00:55:11,308 --> 00:55:12,657
Corect?

1158
00:55:12,700 --> 00:55:15,312
Sunt șanse să fie fie
vor fi părinți militari

1159
00:55:15,355 --> 00:55:17,314
sau vor fi
părinți de afaceri.

1160
00:55:17,357 --> 00:55:20,142
Dacă sunt părinți de afaceri,
întreabă AI

1161
00:55:20,186 --> 00:55:22,449
a deveni ceva

1162
00:55:22,493 --> 00:55:25,626
care poate face mulți bani.

1163
00:55:27,672 --> 00:55:29,848
Deci ei o învață lăcomia.

1164
00:55:32,198 --> 00:55:35,854
Părinții militari îl vor învăța să omoare.

1165
00:55:38,683 --> 00:55:41,468
Inteligență cu adevărat supraomenească

1166
00:55:41,512 --> 00:55:44,079
este atât de mult... Este atât de super.

1167
00:55:44,123 --> 00:55:45,690
E mult mai bine
decât suntem noi

1168
00:55:45,733 --> 00:55:49,563
că prima țară sau companie care a ajuns acolo

1169
00:55:49,607 --> 00:55:51,217
are avantajul că câștigătorul ia tot.

1170
00:56:14,066 --> 00:56:17,809
Pentru că există așa ceva
o cursă a înarmărilor în AI la nivel global,

1171
00:56:17,852 --> 00:56:19,898
și asta e literalmente,
în ceea ce priveşte construcţia

1172
00:56:19,941 --> 00:56:22,335
sisteme de arme,
dar și la figurat

1173
00:56:22,379 --> 00:56:24,685
cu oameni ca Putin
și zicala chinezească

1174
00:56:24,729 --> 00:56:28,036
oricine domină AI
va domina economia

1175
00:56:28,080 --> 00:56:30,517
în secolul XXI.

1176
00:56:30,561 --> 00:56:33,520
Nu cred că avem de ales
să pun frâna,

1177
00:56:33,564 --> 00:56:36,001
să nu se mai dezvolte
și cercetarea.

1178
00:56:36,044 --> 00:56:39,047
Putem construi tehnologia,
putem face cercetarea,

1179
00:56:39,091 --> 00:56:40,745
și impregnați-l cu valorile noastre,

1180
00:56:40,788 --> 00:56:43,356
dar realist,
regimuri totalitare

1181
00:56:43,400 --> 00:56:45,489
va impregna tehnologia
cu valorile lor.

1182
00:56:46,707 --> 00:56:49,406
Israel, Rusia, SUA
și China

1183
00:56:49,449 --> 00:56:51,146
sunt toți concurenți

1184
00:56:51,190 --> 00:56:54,193
în ceea ce este descris
ca o nouă cursă globală a înarmărilor.

1185
00:56:56,413 --> 00:56:58,371
Toate tarile,
fie că recunosc sau nu,

1186
00:56:58,415 --> 00:57:00,765
urmează să se dezvolte
arme autonome letale.

1187
00:57:03,028 --> 00:57:06,423
Și chiar asta
o capacitate pe care o dorim

1188
00:57:06,466 --> 00:57:08,381
în mâini
a unui stat-națiune corporativă

1189
00:57:08,425 --> 00:57:10,252
spre deosebire de un stat-națiune?

1190
00:57:10,296 --> 00:57:12,124
Realitatea este
dacă Facebook sau Google

1191
00:57:12,167 --> 00:57:14,082
a vrut să înceapă o armată,

1192
00:57:14,126 --> 00:57:17,912
ar avea
din punct de vedere tehnologic
capabilități superioare

1193
00:57:17,956 --> 00:57:19,958
decât orice altă naţiune
pe planetă.

1194
00:57:21,481 --> 00:57:24,832
Unii oameni de știință AI
sunt atât de îngrijorați,

1195
00:57:24,876 --> 00:57:26,965
au produs asta
videoclip dramatizat

1196
00:57:27,008 --> 00:57:29,054
pentru a avertiza asupra riscurilor.

1197
00:57:29,097 --> 00:57:31,796
Probabil copiii tăi au
una dintre astea, nu?

1198
00:57:33,493 --> 00:57:34,929
Nu chiar. - Noi am produs

1199
00:57:34,973 --> 00:57:37,454
videoclipul Slaughterbot
pentru a ilustra

1200
00:57:37,497 --> 00:57:39,151
riscul
a armelor autonome.

1201
00:57:39,194 --> 00:57:41,632
Această abilitate este doar AI.

1202
00:57:42,676 --> 00:57:44,025
Zboară în sine.

1203
00:57:44,983 --> 00:57:47,072
Sunt oameni înăuntru
comunitatea AI

1204
00:57:47,115 --> 00:57:48,639
care ar vrea să tac.

1205
00:57:49,814 --> 00:57:52,294
Oamenii care cred că realizarea videoclipului este

1206
00:57:52,338 --> 00:57:54,775
un pic tradator.

1207
00:57:54,819 --> 00:57:57,517
La fel ca orice dispozitiv mobil
zilele astea,

1208
00:57:57,561 --> 00:57:59,780
are camere si senzori.

1209
00:57:59,824 --> 00:58:03,044
Și la fel ca telefoanele dvs
și aplicații de social media,

1210
00:58:03,088 --> 00:58:04,742
face recunoaștere facială.

1211
00:58:04,785 --> 00:58:07,353
Pana acum,
cursele înarmărilor tindeau să fie

1212
00:58:07,396 --> 00:58:09,616
mai mare, mai puternic,
mai scump,

1213
00:58:09,660 --> 00:58:11,618
avioane mai rapide care costă mai mult.

1214
00:58:12,358 --> 00:58:15,622
AI înseamnă că ai putea avea

1215
00:58:15,666 --> 00:58:17,885
arme foarte mici, ieftine

1216
00:58:17,929 --> 00:58:19,757
care sunt foarte eficiente
la a face

1217
00:58:19,800 --> 00:58:21,933
o treabă foarte simplă, de exemplu

1218
00:58:22,803 --> 00:58:24,718
găsindu-te într-o mulțime
și să te omoare.

1219
00:58:25,545 --> 00:58:27,852
Așa funcționează.

1220
00:58:37,514 --> 00:58:40,560
Fiecare progres major
în tehnologia umană

1221
00:58:40,604 --> 00:58:43,084
a fost întotdeauna înarmat.

1222
00:58:43,128 --> 00:58:48,046
Și ideea de AI cu arme,
Cred că este terifiant.

1223
00:58:48,089 --> 00:58:50,701
Antrenat ca o echipa,
pot pătrunde

1224
00:58:50,744 --> 00:58:52,920
clădiri, mașini, trenuri,

1225
00:58:52,964 --> 00:58:57,316
eludați oameni, gloanțe...
Ele nu pot fi oprite.

1226
00:58:57,359 --> 00:58:59,536
Sunt multe
arme care ucid oameni.

1227
00:58:59,579 --> 00:59:01,059
Mitralierele
poate ucide oameni,

1228
00:59:01,102 --> 00:59:03,844
dar cer
o ființă umană
să-i ducă și să le îndrepte.

1229
00:59:03,888 --> 00:59:06,368
Cu arme autonome,
nu ai nevoie de om

1230
00:59:06,412 --> 00:59:08,066
să le poarte
sau să le supravegheze.

1231
00:59:08,936 --> 00:59:12,723
Doar programezi și apoi pleacă.

1232
00:59:12,766 --> 00:59:15,377
Deci poți crea efectul unei armate

1233
00:59:15,421 --> 00:59:16,770
purtând un milion de mitraliere,

1234
00:59:16,814 --> 00:59:18,903
cu doi tipi și un camion.

1235
00:59:23,429 --> 00:59:25,866
Putin a spus asta
prima persoană care se dezvoltă

1236
00:59:25,910 --> 00:59:29,653
inteligenta artificiala puternica
va conduce lumea.

1237
00:59:29,696 --> 00:59:31,568
Când liderii mondiali folosesc termeni

1238
00:59:31,611 --> 00:59:33,570
cum ar fi "conduce lumea",

1239
00:59:33,613 --> 00:59:35,572
Cred că trebuie să-i acorzi atenție.

1240
00:59:43,928 --> 00:59:47,105
Acum, acesta este un atac aerian
de precizie chirurgicală.

1241
00:59:50,151 --> 00:59:53,894
Am făcut campanie împotriva
aceste arme din 2007,

1242
00:59:53,938 --> 00:59:56,027
și sunt trei principale
seturi de argumente.

1243
00:59:56,070 --> 00:59:58,899
Sunt argumentele morale,
sunt argumente

1244
00:59:58,943 --> 01:00:01,598
despre nerespectarea
cu legile războiului,

1245
01:00:01,641 --> 01:00:03,904
si sunt argumente
despre cum se vor schimba

1246
01:00:03,948 --> 01:00:05,514
securitatea globală a planetei.

1247
01:00:05,558 --> 01:00:07,604
Avem nevoie de noi reglementări.

1248
01:00:07,647 --> 01:00:11,433
Trebuie să ne gândim cu adevărat
despre asta acum, ieri.

1249
01:00:11,477 --> 01:00:14,262
Unii dintre liderii lumii
în inteligența artificială

1250
01:00:14,306 --> 01:00:17,439
solicită Națiunilor Unite
pentru a interzice dezvoltarea

1251
01:00:17,483 --> 01:00:18,919
de arme autonome,

1252
01:00:18,963 --> 01:00:20,921
cunoscute altfel
ca niște roboți ucigași.

1253
01:00:20,965 --> 01:00:23,750
În scrisoare
ei spun „odată dezvoltat,

1254
01:00:23,794 --> 01:00:26,013
„vor permite
conflict armat de luptat

1255
01:00:26,057 --> 01:00:29,669
„la intervale de timp mai rapide
decât pot înțelege oamenii.”

1256
01:00:29,713 --> 01:00:32,237
Sunt semnatar
la acea scrisoare.

1257
01:00:32,280 --> 01:00:33,717
Filosofia mea este,

1258
01:00:33,760 --> 01:00:36,502
si sper ca guvernele
al lumii impun acest lucru,

1259
01:00:36,545 --> 01:00:39,331
că atâta timp cât
o viață umană este implicată,

1260
01:00:39,374 --> 01:00:41,420
atunci un om trebuie să fie
în buclă.

1261
01:00:43,988 --> 01:00:47,078
Oricine are o imprimantă 3D
si un calculator

1262
01:00:47,121 --> 01:00:48,993
poate avea un letal
armă autonomă.

1263
01:00:49,036 --> 01:00:51,691
Dacă este accesibil
tuturor de pe planetă,

1264
01:00:51,735 --> 01:00:53,954
apoi conformitatea, de exemplu,

1265
01:00:53,998 --> 01:00:56,783
ar fi aproape imposibil
să urmărească.

1266
01:00:56,827 --> 01:00:58,785
Ce naiba
faci? Stop!

1267
01:00:58,829 --> 01:01:00,657
Tragi în aer subțire.

1268
01:01:00,700 --> 01:01:02,223
Când îți imaginezi

1269
01:01:02,267 --> 01:01:03,877
ducând război în viitor,

1270
01:01:03,921 --> 01:01:06,053
unde soldații sunt roboți,

1271
01:01:06,097 --> 01:01:09,796
și nu punem niciun risc
de angajament cu noi înșine...

1272
01:01:09,840 --> 01:01:12,494
Când războiul devine
la fel ca un joc video,

1273
01:01:12,538 --> 01:01:14,671
asa cum are
deja treptat,

1274
01:01:15,280 --> 01:01:16,716
este o adevarata preocupare.

1275
01:01:19,023 --> 01:01:21,199
Când nu avem piele în joc, la propriu...

1276
01:01:23,767 --> 01:01:26,770
... când toate acestea sunt rulate de la un terminal

1277
01:01:26,813 --> 01:01:29,294
la mii de mile depărtare de câmpul de luptă...

1278
01:01:33,080 --> 01:01:35,953
... care ar putea scădea ștacheta pentru război

1279
01:01:35,996 --> 01:01:37,606
până la un punct în care am recunoaște

1280
01:01:37,650 --> 01:01:39,913
că am devenit monștri.

1281
01:01:50,707 --> 01:01:51,882
Cine eşti tu?

1282
01:01:53,144 --> 01:01:55,233
Hei! Hei!

1283
01:01:58,976 --> 01:02:01,543
Fiind
un fost pilot de vânătoare,

1284
01:02:01,587 --> 01:02:03,589
am vazut si eu
oamenii fac greseli

1285
01:02:03,632 --> 01:02:05,765
și ucide oameni nevinovați

1286
01:02:05,809 --> 01:02:07,898
cine nu ar trebui
au fost uciși.

1287
01:02:07,941 --> 01:02:11,205
Într-o zi în viitor,
va fi mai de încredere

1288
01:02:11,249 --> 01:02:13,512
ca o mașină să o facă
decât o face un om.

1289
01:02:13,555 --> 01:02:15,035
Ideea de roboți

1290
01:02:15,079 --> 01:02:17,734
care poate ucide oameni
pe cont propriu

1291
01:02:17,777 --> 01:02:20,301
a fost o science fiction
de bază de zeci de ani.

1292
01:02:20,345 --> 01:02:23,043
Există un număr de
aceste sisteme deja în jur,

1293
01:02:23,087 --> 01:02:24,784
asta funcționează autonom.

1294
01:02:24,828 --> 01:02:26,873
Dar așa se cheamă
autonomie supravegheată

1295
01:02:26,917 --> 01:02:30,224
pentru că cineva e acolo
pentru a-l porni și opri.

1296
01:02:30,268 --> 01:02:32,052
Ce este numai
fost văzut la Hollywood

1297
01:02:32,096 --> 01:02:35,839
ar putea veni în curând
pe un câmp de luptă lângă tine.

1298
01:02:35,882 --> 01:02:37,797
Pentagonul investește
miliarde de dolari

1299
01:02:37,841 --> 01:02:39,407
să dezvolte arme autonome,

1300
01:02:39,451 --> 01:02:41,845
mașini care ar putea într-o zi
ucide singuri.

1301
01:02:41,888 --> 01:02:45,239
Dar Pentagonul insistă că oamenii vor decide să lovească.

1302
01:02:45,283 --> 01:02:48,460
Odată ce obții AI
în hardware militar,

1303
01:02:49,853 --> 01:02:51,985
trebuie să reușești
ia deciziile,

1304
01:02:52,029 --> 01:02:53,944
altfel nu are rost
în a-l avea.

1305
01:02:55,119 --> 01:02:58,035
Unul dintre avantajele AI este că este mai rapid decât noi.

1306
01:03:00,037 --> 01:03:02,474
Odată ce suntem într-o luptă corectă și acea schimbare

1307
01:03:02,517 --> 01:03:04,476
care ține umanul în buclă,

1308
01:03:04,519 --> 01:03:07,044
mai bine o oprim,
pentru că dacă nu,
pierzi.

1309
01:03:10,047 --> 01:03:11,788
Acestea vor face
câmpul de luptă

1310
01:03:11,831 --> 01:03:13,441
prea repede pentru oameni.

1311
01:03:19,273 --> 01:03:21,493
Dacă nu este niciun om implicat,

1312
01:03:21,536 --> 01:03:25,279
dacă comanda și controlul au trecut la autonomie,

1313
01:03:25,323 --> 01:03:27,716
am putea declanșa un război și ar putea fi terminat

1314
01:03:27,760 --> 01:03:30,110
în 20 de minute cu devastare masivă,

1315
01:03:30,154 --> 01:03:32,460
și nimeni nu știa despre asta înainte de a începe.

1316
01:03:40,251 --> 01:03:44,298
Deci cine decide ce
ar trebui să facem în viitor

1317
01:03:45,560 --> 01:03:46,561
acum?

1318
01:03:48,389 --> 01:03:51,958
De la Big Bang până acum,
miliarde de ani.

1319
01:03:52,959 --> 01:03:56,658
Aceasta este singura dată
o persoană poate conduce

1320
01:03:56,702 --> 01:03:58,225
viitorul
a întregii omeniri.

1321
01:04:12,892 --> 01:04:15,982
Poate ar trebui să ne facem griji
noi oamenii nu suntem suficient de înțelepți

1322
01:04:16,026 --> 01:04:17,636
pentru a gestiona atâta putere.

1323
01:04:20,378 --> 01:04:23,294
Cine este de fapt
o sa fac alegerile,

1324
01:04:23,337 --> 01:04:26,950
si in numele cui
chiar vorbesti?

1325
01:04:34,087 --> 01:04:37,482
Dacă noi, restul societății,
nu reușesc de fapt

1326
01:04:37,525 --> 01:04:39,788
alătură-te cu adevărat la această conversație
într-un mod semnificativ

1327
01:04:39,832 --> 01:04:42,182
și să faci parte din decizie,

1328
01:04:42,226 --> 01:04:45,098
atunci știm ale cui valori
vor intra în astea

1329
01:04:45,142 --> 01:04:47,448
ființe super-inteligente.

1330
01:04:47,492 --> 01:04:50,103
Red Bull. Da, Deon.

1331
01:04:50,843 --> 01:04:52,584
Red Bull.

1332
01:04:52,627 --> 01:04:56,196
O să fie decis de niște tocilari de tehnologie

1333
01:04:56,240 --> 01:04:58,024
care a băut prea mult Red Bull...

1334
01:04:58,068 --> 01:04:59,939
care nu cred
au vreun particular

1335
01:04:59,983 --> 01:05:01,723
calificări pentru a vorbi

1336
01:05:01,767 --> 01:05:03,247
în numele întregii omeniri.

1337
01:05:05,945 --> 01:05:10,080
Odată ce ai intrat
entuziasmul de
descoperire...

1338
01:05:11,516 --> 01:05:12,778
Haide!

1339
01:05:12,821 --> 01:05:14,562
...cumva
închide ochii

1340
01:05:14,606 --> 01:05:16,434
la toate acestea
întrebări mai moraliste,

1341
01:05:16,477 --> 01:05:21,091
cum va fi asta
impact asupra societății în ansamblu?

1342
01:05:23,223 --> 01:05:25,182
Și o faci pentru că poți.

1343
01:05:29,664 --> 01:05:31,579
Și oamenii de știință
împing asta înainte

1344
01:05:31,623 --> 01:05:34,582
pentru că ei pot vedea
beneficiile reale

1345
01:05:34,626 --> 01:05:35,670
că aceasta va aduce.

1346
01:05:36,845 --> 01:05:38,412
Și ei sunt, de asemenea
foarte, foarte entuziasmat.

1347
01:05:38,456 --> 01:05:41,241
Adică, tu nu...
Nu intri în știință

1348
01:05:41,285 --> 01:05:43,852
pentru că, o, bine,
nu puteai
fii fotbalist,

1349
01:05:43,896 --> 01:05:45,550
— La naiba, voi fi om de știință.

1350
01:05:45,593 --> 01:05:47,291
Intri pentru că
asta iubesti
și este cu adevărat incitant.

1351
01:05:49,423 --> 01:05:50,947
Oh! E viu!

1352
01:05:50,990 --> 01:05:53,253
E viu! E viu!

1353
01:05:53,297 --> 01:05:54,646
E viu!

1354
01:05:54,689 --> 01:05:55,995
Facem schimbarea

1355
01:05:56,039 --> 01:05:57,518
din fiinţă creaţie
a fi Dumnezeu.

1356
01:05:57,562 --> 01:06:00,391
Acum știu cum se simte
a fi Dumnezeu!

1357
01:06:00,434 --> 01:06:02,219
Dacă studiezi teologia,

1358
01:06:02,262 --> 01:06:05,787
un lucru pe care îl înveți
este că nu este niciodată cazul

1359
01:06:05,831 --> 01:06:07,528
acel Dumnezeu
gestionează cu succes

1360
01:06:07,572 --> 01:06:10,270
pentru a-i controla crearea.

1361
01:06:14,144 --> 01:06:16,189
Nu suntem încă acolo,

1362
01:06:16,233 --> 01:06:17,495
dar dacă creăm

1363
01:06:17,538 --> 01:06:19,671
general artificial
inteligenta,

1364
01:06:20,802 --> 01:06:22,456
putem menține controlul?

1365
01:06:24,676 --> 01:06:27,287
Dacă creați un AI conștient de sine,

1366
01:06:27,331 --> 01:06:29,637
primul lucru
va dori

1367
01:06:29,681 --> 01:06:31,204
este independența.

1368
01:06:31,248 --> 01:06:34,642
Cel puțin, singura inteligență
despre care știm cu toții că suntem noi înșine.

1369
01:06:34,686 --> 01:06:38,037
Și știm că nu am vrea să facem licitația

1370
01:06:38,081 --> 01:06:39,996
a unei alte inteligenţe.

1371
01:06:41,867 --> 01:06:45,566
Nu avem de ce să credem că va fi prietenos...

1372
01:06:56,186 --> 01:06:58,579
...sau că va avea scopuri și aspirații

1373
01:06:58,623 --> 01:07:00,277
care se aliniază cu ale noastre.

1374
01:07:04,020 --> 01:07:06,500
Deci cu cât timp înainte
există o revoluție a roboților

1375
01:07:06,544 --> 01:07:08,024
sau o revoluție AI?

1376
01:07:18,077 --> 01:07:20,775
Ne aflăm astăzi într-o lume în care este

1377
01:07:20,819 --> 01:07:22,473
absolut o cursă pe jos

1378
01:07:22,516 --> 01:07:25,693
să meargă cât mai repede posibil
spre creare

1379
01:07:25,737 --> 01:07:28,305
un artificial
inteligența generală

1380
01:07:28,348 --> 01:07:31,569
și se pare că nu există
orice frână este aplicată
oriunde la vedere.

1381
01:07:33,571 --> 01:07:34,789
E o nebunie.

1382
01:07:42,493 --> 01:07:44,712
cred eu
este important să sincer

1383
01:07:44,756 --> 01:07:46,888
discuta astfel de probleme.

1384
01:07:46,932 --> 01:07:48,977
S-ar putea să fie
un pic prea târziu pentru a face

1385
01:07:49,021 --> 01:07:51,371
această conversație de după.

1386
01:07:59,423 --> 01:08:04,297
Este important să ne amintim
că inteligența nu este rea

1387
01:08:04,341 --> 01:08:06,343
si nici nu este bine.

1388
01:08:07,170 --> 01:08:09,737
Inteligența dă putere.

1389
01:08:09,781 --> 01:08:12,305
Suntem mai puternici decât tigrii pe această planetă,

1390
01:08:12,349 --> 01:08:14,525
nu pentru că avem gheare mai ascuțite

1391
01:08:14,568 --> 01:08:16,570
sau bicepși mai mari,
pentru că suntem mai deștepți.

1392
01:08:17,615 --> 01:08:19,704
Luăm
atitudinea pe care furnicile

1393
01:08:19,747 --> 01:08:23,403
contează puțin și peștii contează puțin, dar oamenii contează mai mult.

1394
01:08:23,447 --> 01:08:25,405
De ce? Pentru că suntem
mai inteligent,

1395
01:08:25,449 --> 01:08:27,581
mai sofisticat,
mai conștient.

1396
01:08:27,625 --> 01:08:30,236
Odată ce ai sisteme care
sunt mai inteligenți decât noi,

1397
01:08:30,280 --> 01:08:32,282
poate pur și simplu vor conta mai mult.

1398
01:08:41,421 --> 01:08:44,598
Ca oameni, trăim
într-o lume a microorganismelor.

1399
01:08:46,122 --> 01:08:48,124
Sunt viață, dar dacă un microorganism

1400
01:08:48,167 --> 01:08:50,517
devine o pacoste, luăm un antibiotic

1401
01:08:50,561 --> 01:08:53,129
și distrugem miliarde din ele deodată.

1402
01:08:57,220 --> 01:08:59,526
Dacă ai fi o inteligență artificială,

1403
01:08:59,570 --> 01:09:01,137
nu te-ai uita
la fiecare mic om

1404
01:09:01,180 --> 01:09:03,008
care are asta
vedere foarte limitată

1405
01:09:03,051 --> 01:09:05,402
cam ca
ne uităm la microorganisme?

1406
01:09:09,188 --> 01:09:10,494
Poate aș face-o.

1407
01:09:13,410 --> 01:09:16,152
Poate nesemnificația umană

1408
01:09:16,195 --> 01:09:18,632
este cea mai mare amenințare dintre toate.

1409
01:09:21,505 --> 01:09:24,247
Uneori când vorbesc
despre riscul AI, oamenii merg,

1410
01:09:24,290 --> 01:09:26,162
„Shh! Max,
nu vorbi asa.

1411
01:09:26,205 --> 01:09:28,338
„Acela este ludit
sperietoare”.

1412
01:09:28,381 --> 01:09:30,035
Dar nu este înfricoșător.

1413
01:09:30,078 --> 01:09:33,169
Este ceea ce noi la MIT
apelați ingineria de siguranță.

1414
01:09:35,867 --> 01:09:39,218
Adică, gândește-te, înainte ca NASA să lanseze misiunea lunară Apollo 11,

1415
01:09:39,262 --> 01:09:40,785
au gândit sistematic

1416
01:09:40,828 --> 01:09:43,004
tot ce ar putea merge prost
când pui o grămadă de oameni

1417
01:09:43,048 --> 01:09:45,616
deasupra rezervoarelor de combustibil exploziv
și le-a lansat undeva

1418
01:09:45,659 --> 01:09:48,532
unde nimeni nu-i poate ajuta.
A fost o sperietură?

1419
01:09:48,575 --> 01:09:51,012
Nu, tocmai asta a fost
ingineria sigurantei

1420
01:09:51,056 --> 01:09:54,538
asta garantat
succesul misiunii.

1421
01:09:54,581 --> 01:09:58,498
Tocmai asta e strategia pe care cred că trebuie să o luăm cu AGI.

1422
01:09:58,542 --> 01:10:00,805
Gândește-te la tot ce ar putea merge prost

1423
01:10:00,848 --> 01:10:02,720
pentru a te asigura că merge bine.

1424
01:10:06,898 --> 01:10:08,856
Eu sunt cine sunt
din cauza filmului

1425
01:10:08,900 --> 01:10:11,337
O odisee a spațiului.

1426
01:10:11,381 --> 01:10:14,601
În vârstă de 14 ani, era
o deschidere a ochilor pentru mine.

1427
01:10:14,645 --> 01:10:17,343
Filmul acela este cel mai bun
a tuturor science-fiction-ului

1428
01:10:17,387 --> 01:10:20,912
cu previziunile sale
pentru modul în care AI ar evolua.

1429
01:10:23,088 --> 01:10:24,872
Dar în realitate,

1430
01:10:24,916 --> 01:10:27,658
dacă ceva este suficient
departe în viitor,

1431
01:10:27,701 --> 01:10:30,748
nu ne putem imagina
cum va fi lumea,

1432
01:10:30,791 --> 01:10:33,229
deci de fapt nu putem spune
orice sensibil

1433
01:10:33,272 --> 01:10:34,447
despre care sunt problemele.

1434
01:10:36,014 --> 01:10:37,233
Îngrijorarea pentru
securitate super-inteligentă

1435
01:10:37,276 --> 01:10:39,278
este un pic ca
îngrijorând

1436
01:10:39,322 --> 01:10:40,932
cum esti
o să instalez centurile de siguranță

1437
01:10:40,975 --> 01:10:42,542
în dispozitivele transportoare.

1438
01:10:42,586 --> 01:10:44,457
Ca în Star Trek,
unde poți doar să zipești

1439
01:10:44,501 --> 01:10:46,242
dintr-un loc în altul.

1440
01:10:46,285 --> 01:10:48,331
Hm, poate că există
unele pericole pentru asta,

1441
01:10:48,374 --> 01:10:49,941
deci ar trebui să avem
centurile de siguranta, nu?

1442
01:10:49,984 --> 01:10:51,986
Dar, desigur, este foarte prostesc
pentru că nu știm suficient

1443
01:10:52,030 --> 01:10:53,466
despre cum
tehnologie de transport

1444
01:10:53,510 --> 01:10:55,338
ar putea arăta să poată spune

1445
01:10:55,381 --> 01:10:57,427
dacă centurile de siguranță se aplică.

1446
01:10:58,993 --> 01:11:01,648
Să spun că acolo
nu va fi o problemă pentru că

1447
01:11:02,954 --> 01:11:04,869
necunoscutele sunt atât de vaste,

1448
01:11:04,912 --> 01:11:07,567
că nici nu știm
unde problema
va fi,

1449
01:11:08,829 --> 01:11:10,570
asta e o nebunie.

1450
01:11:15,706 --> 01:11:18,056
Cred că conversația este
probabil singurul
drum înainte aici.

1451
01:11:18,099 --> 01:11:20,014
Momentan,
între noi,

1452
01:11:20,058 --> 01:11:21,364
iar când va veni timpul,

1453
01:11:21,407 --> 01:11:23,627
cu cele emergente
inteligențe artificiale.

1454
01:11:25,716 --> 01:11:27,152
Deci de îndată ce
există ceva

1455
01:11:27,195 --> 01:11:28,719
de la distanță în acel stadion,

1456
01:11:28,762 --> 01:11:30,721
ar trebui să începem să încercăm
a avea o conversație

1457
01:11:30,764 --> 01:11:32,636
cu ea cumva.

1458
01:11:33,637 --> 01:11:35,900
Câine. Câine. - Da.

1459
01:11:35,943 --> 01:11:38,946
Unul dintre lucrurile pe care le sperăm
a face cu Baby X înseamnă a încerca

1460
01:11:38,990 --> 01:11:41,906
pentru a obține o perspectivă mai bună
în propria noastră natură.

1461
01:11:43,777 --> 01:11:46,302
Ea este proiectată
să învețe în mod autonom.

1462
01:11:47,564 --> 01:11:50,610
Ea poate fi conectată
pe internet,

1463
01:11:50,654 --> 01:11:54,266
faceți clic pe paginile web singură
si vezi ce se intampla,

1464
01:11:54,310 --> 01:11:56,442
un fel de a învăța cum învățăm.

1465
01:11:57,400 --> 01:12:00,707
Dacă facem asta
AI super fantastic,

1466
01:12:00,751 --> 01:12:04,363
ne poate ajuta să devenim
versiuni mai bune ale noastre,

1467
01:12:06,365 --> 01:12:08,106
ajuta-ne sa evoluam.

1468
01:12:15,505 --> 01:12:17,550
Va avea efecte societale.

1469
01:12:19,117 --> 01:12:20,597
Este de temut?

1470
01:12:22,381 --> 01:12:24,035
Sau este ceva
de la care să înveți?

1471
01:12:28,648 --> 01:12:31,999
Deci când s-ar putea
ne confruntăm cu mașini

1472
01:12:32,043 --> 01:12:36,656
care sunt la fel de deștepți,
mai destept decat noi?

1473
01:12:38,571 --> 01:12:41,661
Cred că una dintre modalități
să mă gândesc
viitorul apropiat al AI

1474
01:12:41,705 --> 01:12:44,708
asa as numi eu
orizontul evenimentelor.

1475
01:12:46,231 --> 01:12:48,015
Oamenii au auzit de găuri negre,

1476
01:12:48,059 --> 01:12:50,191
acest punct super dens unde

1477
01:12:50,235 --> 01:12:52,977
dacă te apropii prea mult, ești absorbit.

1478
01:12:53,020 --> 01:12:55,893
Există o limită. Odată ce ai trecut acea graniță,

1479
01:12:55,936 --> 01:12:58,025
nu există cale de întoarcere.

1480
01:12:58,069 --> 01:13:02,900
Ceea ce face asta periculos este că nu poți spune unde este.

1481
01:13:02,943 --> 01:13:05,816
Și cred că AI ca tehnologie
asa va fi,

1482
01:13:05,859 --> 01:13:09,210
că va fi un punct
unde logica banilor

1483
01:13:09,254 --> 01:13:11,430
și puterea și promisiunea

1484
01:13:11,474 --> 01:13:14,781
va fi astfel încât
odată ce trecem acea graniță,

1485
01:13:14,825 --> 01:13:16,783
atunci vom fi
în acel viitor.

1486
01:13:16,827 --> 01:13:19,395
Nu va mai fi cale de întoarcere,
politic, economic

1487
01:13:19,438 --> 01:13:21,658
sau chiar în termeni
de ceea ce ne dorim.

1488
01:13:21,701 --> 01:13:24,008
Dar trebuie să ne îngrijorăm
despre asta înainte să ajungem

1489
01:13:24,051 --> 01:13:27,315
orizontul evenimentelor,
și nu știm unde este.

1490
01:13:27,359 --> 01:13:29,405
Nu cred că va fi
se întâmplă în curând.

1491
01:13:29,448 --> 01:13:31,145
Următoarele câteva decenii.

1492
01:13:31,189 --> 01:13:32,364
Douăzeci și cinci până la 50 de ani.

1493
01:13:32,408 --> 01:13:33,452
Câteva sute de ani.

1494
01:13:33,496 --> 01:13:34,584
S-a terminat
următoarele câteva decenii.

1495
01:13:34,627 --> 01:13:35,802
Nu în viața mea.

1496
01:13:35,846 --> 01:13:38,239
Nimeni nu știe.
Dar nu prea contează.

1497
01:13:38,283 --> 01:13:41,634
Fie că este vorba de ani
sau 100 de ani,
problema este aceeasi.

1498
01:13:41,678 --> 01:13:44,594
Este la fel de real
și vom avea nevoie
în tot acest timp pentru a o rezolva.

1499
01:13:49,816 --> 01:13:53,733
Istoria este doar plină de
previziuni tehnologice exagerate.

1500
01:13:53,777 --> 01:13:55,605
Cum ar fi, unde sunt
acele mașini zburătoare

1501
01:13:55,648 --> 01:13:57,389
care se presupuneau
să fiu aici, nu?

1502
01:13:57,433 --> 01:14:00,740
Dar este și plin
din contra,

1503
01:14:00,784 --> 01:14:03,134
când oamenii au spus,
„Oh, nu se va întâmpla niciodată”.

1504
01:14:07,878 --> 01:14:10,968
Mi-e rușine, ca fizician, că Ernest Rutherford,

1505
01:14:11,011 --> 01:14:13,274
a spus unul dintre cei mai mari fizicieni nucleari ai tuturor timpurilor

1506
01:14:13,318 --> 01:14:15,929
că energia nucleară nu avea să se întâmple niciodată.

1507
01:14:17,061 --> 01:14:18,932
Și chiar a doua zi,

1508
01:14:18,976 --> 01:14:22,458
Leo Szilard inventează
reacția nucleară în lanț.

1509
01:14:22,501 --> 01:14:24,677
Deci dacă cineva spune
sunt complet siguri

1510
01:14:24,721 --> 01:14:27,114
ceva nu este niciodată
se va întâmpla,

1511
01:14:27,158 --> 01:14:29,377
chiar dacă este consistent
cu legile fizicii,

1512
01:14:29,421 --> 01:14:31,510
Eu zic: „Da, corect”.

1513
01:14:36,646 --> 01:14:38,430
Nu suntem încă acolo.

1514
01:14:38,474 --> 01:14:41,477
Nu am construit un AI super-inteligent.

1515
01:14:45,002 --> 01:14:47,483
Și chiar dacă am stipulat că nu se va întâmpla

1516
01:14:47,526 --> 01:14:49,528
peste 50 de ani, nu?

1517
01:14:49,572 --> 01:14:52,183
Deci avem 50 de ani să ne gândim la asta.

1518
01:14:52,226 --> 01:14:53,706
Ei bine...

1519
01:14:53,750 --> 01:14:56,143
nu e scris nicăieri
cei 50 de ani

1520
01:14:56,187 --> 01:14:59,059
este timp suficient pentru a-ți da seama
cum să faci asta în siguranță.

1521
01:15:01,018 --> 01:15:02,628
chiar cred
va dura

1522
01:15:02,672 --> 01:15:05,196
un exemplu extrem de negativ

1523
01:15:05,239 --> 01:15:08,504
a tehnologiei
ca toată lumea să se retragă

1524
01:15:08,547 --> 01:15:11,115
si realizezi asta
trebuie să luăm chestia asta

1525
01:15:11,158 --> 01:15:13,334
sub control, trebuie să avem constrângeri.

1526
01:15:13,378 --> 01:15:16,207
Noi trăim
într-o lume science fiction
și suntem cu toții,

1527
01:15:16,250 --> 01:15:20,037
um, într-un fel de mare
experiment social, tactic,

1528
01:15:20,080 --> 01:15:22,692
experimentăm pe noi înșine,
imprudent,

1529
01:15:22,735 --> 01:15:25,172
cum nici un doctor nu ar face-o
visezi vreodată să faci.

1530
01:15:25,216 --> 01:15:26,522
Ne injectăm singuri

1531
01:15:26,565 --> 01:15:28,262
cu tot ce
venim cu noi

1532
01:15:28,306 --> 01:15:29,655
pentru a vedea ce se întâmplă.

1533
01:15:31,875 --> 01:15:34,486
În mod clar,
procesul de gândire este...

1534
01:15:34,530 --> 01:15:36,140
Tu creezi
roboți de învățare.

1535
01:15:36,183 --> 01:15:38,534
Roboții care învață sunt exact
ceea ce duce la Skynet.

1536
01:15:38,577 --> 01:15:40,884
Acum am de ales,
nu? pot spune,

1537
01:15:40,927 --> 01:15:42,842
„Nu-ți face griji,
Nu sunt bun la meseria mea.

1538
01:15:43,887 --> 01:15:45,932
„Nu ai de ce să te temi
pentru că sunt nasol la asta

1539
01:15:45,976 --> 01:15:48,108
"și nu voi face
realizează orice”.

1540
01:15:48,152 --> 01:15:50,458
Sau trebuie să spun: „Știi,

1541
01:15:50,502 --> 01:15:51,938
„Ai dreptate,
toți vom muri,

1542
01:15:51,982 --> 01:15:53,810
„dar va fi
un fel de distractiv de urmărit,

1543
01:15:53,853 --> 01:15:56,856
„și ar fi bine să fie
unul dintre oameni
în primul rând”.

1544
01:15:56,900 --> 01:16:00,033
Deci da, nu am
un răspuns grozav
la aceste lucruri.

1545
01:16:02,122 --> 01:16:04,734
Adevarul, evident,
este undeva la mijloc.

1546
01:16:07,171 --> 01:16:09,260
Poate exista un mijloc?

1547
01:16:10,435 --> 01:16:13,264
Sau ne confruntăm
o nouă ordine mondială?

1548
01:16:15,614 --> 01:16:18,965
Am niște colegi care
sunt bine ca AI să preia controlul

1549
01:16:19,009 --> 01:16:21,228
și chiar provocând
dispariția umană,

1550
01:16:21,272 --> 01:16:22,752
atâta timp cât simțim

1551
01:16:22,795 --> 01:16:25,189
că acele AI
sunt strămoșii noștri vrednici.

1552
01:16:28,453 --> 01:16:32,065
Pe termen lung, oamenii
nu vor rămâne

1553
01:16:32,109 --> 01:16:34,372
coroana creației.

1554
01:16:36,679 --> 01:16:38,594
Dar asta e în regulă.

1555
01:16:38,637 --> 01:16:41,727
Pentru că încă mai există frumusețe

1556
01:16:41,771 --> 01:16:44,469
și măreție și măreție

1557
01:16:44,512 --> 01:16:47,211
în dând seama că ești

1558
01:16:48,212 --> 01:16:51,955
o mică parte din

1559
01:16:51,998 --> 01:16:55,045
o schemă mult mai grandioasă
care conduce universul

1560
01:16:55,088 --> 01:16:59,223
de la complexitate mai mică
spre o complexitate mai mare.

1561
01:17:07,318 --> 01:17:11,017
Ne-am putea apropia rapid de o prăpastie

1562
01:17:11,061 --> 01:17:13,063
pentru rasa umană în care găsim

1563
01:17:13,106 --> 01:17:16,762
că destinul nostru suprem este să fi fost

1564
01:17:16,806 --> 01:17:20,113
înaintaşul adevăratului

1565
01:17:20,157 --> 01:17:24,161
ființe emergente, evolutive, inteligente.

1566
01:17:26,990 --> 01:17:30,515
Deci s-ar putea să fim aici
a naste

1567
01:17:30,558 --> 01:17:32,735
pentru copilul asta...
Din această mașină...

1568
01:17:32,778 --> 01:17:34,345
Civilizația mașinilor.

1569
01:17:37,957 --> 01:17:39,785
Egoist,
ca om, desigur,

1570
01:17:39,829 --> 01:17:41,961
Vreau ca oamenii să rămână prin preajmă.

1571
01:17:44,355 --> 01:17:47,837
Dar poate că acesta este un punct de vedere foarte local, parohial.

1572
01:17:49,795 --> 01:17:52,102
Poate privit din punct de vedere
din perspectiva universului,

1573
01:17:52,145 --> 01:17:53,973
este un univers mai bun
cu...

1574
01:17:54,017 --> 01:17:57,020
Cu super-inteligenta noastră
descendenţi.

1575
01:18:03,766 --> 01:18:06,377
Domeniul nostru
este probabil să reușească

1576
01:18:06,420 --> 01:18:09,772
în scopul său de a realiza
inteligență de uz general.

1577
01:18:12,209 --> 01:18:16,082
Acum avem capacitatea
a modifica radical

1578
01:18:16,126 --> 01:18:17,954
structura economică
a lumii,

1579
01:18:17,997 --> 01:18:19,825
rolul ființelor umane
în lume

1580
01:18:19,869 --> 01:18:22,480
și, eventual,
controlul uman asupra lumii.

1581
01:18:34,666 --> 01:18:37,277
Ideea a fost
că este luat înăuntru

1582
01:18:37,321 --> 01:18:39,192
de entități asemănătoare lui Dumnezeu,

1583
01:18:39,236 --> 01:18:42,239
creaturi de energie pură
si inteligenta.

1584
01:18:43,893 --> 01:18:47,897
L-au pus în ceea ce ai putea descrie ca o grădină zoologică umană.

1585
01:18:49,812 --> 01:18:51,901
Sfârșitul
a călătoriei astronautului.

1586
01:18:56,601 --> 01:18:58,081
A călătorit în timp?

1587
01:18:58,864 --> 01:19:00,561
Spre viitor?

1588
01:19:00,605 --> 01:19:04,827
Erau acele entități asemănătoare dumnezeiești
descendenții lui HAL?

1589
01:19:06,089 --> 01:19:09,092
Inteligenţă artificială
că nu poți opri,

1590
01:19:10,658 --> 01:19:13,879
care continuă să învețe
şi învăţând până la

1591
01:19:14,488 --> 01:19:16,316
ei conduc la grădina zoologică,

1592
01:19:16,360 --> 01:19:18,144
universul,

1593
01:19:18,188 --> 01:19:19,363
totul.

1594
01:19:22,061 --> 01:19:26,022
Este al lui Kubrick
cea mai profundă profeție?

1595
01:19:27,110 --> 01:19:28,154
Pot fi.

1596
01:19:30,548 --> 01:19:32,985
Dar ia-o de la un bătrân.

1597
01:19:33,029 --> 01:19:35,466
Dacă HAL este aproape
pentru a fi printre noi,

1598
01:19:36,510 --> 01:19:38,121
trebuie să fim atenți.

1599
01:19:39,470 --> 01:19:41,559
Trebuie să vorbim despre AI.

1600
01:19:42,734 --> 01:19:44,388
Super-inteligenta.

1601
01:19:44,431 --> 01:19:45,432
Va fi conștient?

1602
01:19:46,390 --> 01:19:47,478
Problema căruciorului.

1603
01:19:48,261 --> 01:19:49,306
Alinierea obiectivelor.

1604
01:19:50,350 --> 01:19:51,743
Singularitatea.

1605
01:19:51,787 --> 01:19:53,049
Mai întâi pe piață.

1606
01:19:53,789 --> 01:19:54,964
Siguranța AI.

1607
01:19:56,008 --> 01:19:57,401
Arme autonome letale.

1608
01:19:58,794 --> 01:19:59,969
Revoluția robotului.

1609
01:20:00,708 --> 01:20:01,971
Mintea stupului.

1610
01:20:03,320 --> 01:20:04,800
Mișcarea transumană.

1611
01:20:05,888 --> 01:20:08,629
Transcende omenirea.

1612
01:20:08,673 --> 01:20:10,196
Nu avem un plan,
nu ne dăm seama

1613
01:20:10,240 --> 01:20:11,807
este necesar
a avea un plan.

1614
01:20:13,286 --> 01:20:15,549
Ce vrem
rolul oamenilor de a fi?